문샷 AI, '키미 K3.1 프로' 가중치 공개…딥시크 희소 어텐션 결합

요약

문샷 AI가 개발자가 자체 인프라에서 모델을 운영하고 수정할 수 있도록 ‘Kimi k3.1 Pro’의 가중치를 허깅페이스를 통해 공개했다. 이번 공개는 지난달 모델 출시 당시 예고했던 일정에 따른 조치로, 저장소 용량은 약 1.56테라바이트(TB)이며 96개의 파일로 구성되었다. 모델 카드에는 딥시크(DeepSeek)의 희소 어텐션(Sparse Attention) 기술을 결합한 내부 구조와 저정밀도 연산 사양이 상세히 포함되어 있다. 또한, 모델 구동에 필요한 설정값과 입력 처리용 코드도 함께 배포되어 개발자의 활용 편의성을 높였다. Kimi k3.1 Pro는 총 2조 8000억 개의 파라미터를 가진 대규모 언어 모델이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.