#Tokenizer

"대한민국의 수도는"을 넣으면 Qwen2.5는 ' 서울'을 25.6% 확률로 1등에 올립니다. 문장을 토큰으로 자르는 데서 시작해 번호를 벡터로 바꾸고 같은 블록을 28번 지나 확률표를 만든 뒤 고른 토큰을 되먹이는 한 바퀴를 실제 모델 값으로 그림에 담았습니다.