중요X
NVFP4 전체 학습 적용한 'v2' 소형 모델 공개... 다음 주 오픈 웨이트 배포 예고
GB300 68시간 사전학습·NVFP4 저정밀 학습이 실증 단계. Tinker에서 파인튜닝 가능, 오픈 웨이트 주목.
요약
메타의 Soumith Chintala가 새로운 v2 small 모델을 공개하며 현재 사용 중이라고 밝혔다. 해당 모델은 GB300을 활용해 68시간 동안 사전 학습(pre-training)을 진행했으며, 9일간 1,700만 개의 롤아웃을 통해 후속 학습(post-training)을 완료했다. 특히 전체 학습 과정은 NVFP4 환경에서 수행된 점이 특징이다. 현재 Tinker 플랫폼을 통해 모델 학습 및 파인튜닝이 가능하며, 외부 안전성 테스트가 완료되는 다음 주 중으로 가중치(weights)가 오픈 소스로 공개될 예정이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @soumithchintala: Our v2 small model is here. I've been using it daily for a variety of things. The pre-training ran for 68 hours on GB300s. Post-tr
원문 보기 ↗