#safetensors
1편
AI
LLM 이름 뒤의 7B는 무엇을 센 숫자일까요
Qwen2.5-7B의 설계도를 펴 놓고 직접 세어 보면 7,615,616,512개가 나옵니다. 손잡이 두 개짜리 작은 모델에서 시작해 파라미터가 무엇인지, 학습과 추론이 그 숫자를 어떻게 다루는지, 실제 safetensors 파일 속 바이트까지 그림으로 확인합니다.
1편
Qwen2.5-7B의 설계도를 펴 놓고 직접 세어 보면 7,615,616,512개가 나옵니다. 손잡이 두 개짜리 작은 모델에서 시작해 파라미터가 무엇인지, 학습과 추론이 그 숫자를 어떻게 다루는지, 실제 safetensors 파일 속 바이트까지 그림으로 확인합니다.