Mistral(미스트랄), 1조 파라미터 멀티모달 오픈 모델 'Mistral Large 4' 프리뷰 공개
유럽·미국 최강 오픈웨이트 표방, 활성 49B로 추론 효율 양호. 이달 말 가중치 공개 예정이라 자가호스팅 검토 가치.
요약
Mistral AI가 새로운 모델 Mistral Large 4(ML4), 일명 le Chonk을 공개하며 프리뷰 버전을 선보였다. ML4는 1T 파라미터 규모에 49B 활성 파라미터를 갖춘 모델로, 멀티모달 기능을 네이티브로 지원하며 현재 오픈 웨이트 모델 중 최고 수준의 성능을 목표로 한다. 이번 프리뷰는 유럽 데이터센터 내 3,800개의 NVIDIA Grace Blackwell GPU를 사용하여 훈련되었으며, 현재 RL 학습이 진행 중이다. 최종 버전과 모델 가중치는 이달 말 공개될 예정이다. Mistral AI는 시리즈 C 및 D 투자로 확보한 컴퓨팅 자원을 통해 향후 훈련 기간을 늘리고 모델 성능을 빠르게 개선하겠다는 계획이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @GuillaumeLample: Today, we are launching a preview of our new model, Mistral Large 4 (ML4), aka le Chonk 🐈. ML4 is a 1T-parameter model with 49B a
원문 보기 ↗