중요Reddit
Moonshot AI, 2.8조 파라미터 MoE 모델 'Kimi-K3' HuggingFace 공개
활성 108B·1M 컨텍스트 오픈웨이트. vLLM·SGLang 지원으로 장문 RAG 파이프라인 검증 가치.
요약
Moonshot AI가 최신 모델인 Kimi-K3를 HuggingFace에 공개하며 오픈 웨이트 AI 생태계에 새로운 선택지를 제공했다. Kimi-K3는 2.8T 파라미터 규모의 SOTA 모델로, 100만 토큰의 컨텍스트 윈도우를 지원한다. 해당 모델은 896개의 전문가로 구성된 MoE(Mixture-of-Experts) 아키텍처를 채택했으며, 108B의 액티브 파라미터를 갖췄다. 사용자들은 vLLM, SGLang, TokenSpeed를 통해 Kimi-K3 모델을 활용할 수 있다. 이번 출시는 고성능 오픈 소스 AI 모델을 기다리던 개발자들에게 큰 주목을 받고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Kimi-K3 is published on HuggingFace
원문 보기 ↗