참고HF Blog
IBM, 추론 강화한 'Granite 4.2' 모델 패밀리(3B/8B/30B) 공개
추론 중심의 5단계 훈련 파이프라인을 적용한 Dense 모델군. 로컬 환경에서 추론 최적화가 필요한 경우 대안이 될 수 있음.
요약
IBM이 추론 능력에 특화된 새로운 언어 모델 제품군 'Granite 4.2'를 3B, 8B, 30B 크기로 공개했다. 이 모델들은 약 15T 토큰 규모의 데이터로 처음부터 학습되었으며, 512K 토큰까지 컨텍스트 윈도우를 확장하고 다단계 강화 학습 파이프라인을 거쳐 개발되었다. 특히 8B와 30B 모델은 샌드박스 환경 내에서 도구를 사용하는 에이전트 강화 학습이 적용되어 실질적인 도구 활용 능력을 갖췄다. 모든 모델은 '생각하기(thinking)' 모드와 '생각하지 않기' 모드, 그리고 간단한 질문에 최적화된 '저노력 모드'를 선택할 수 있는 스위치 기능을 지원한다. Granite 4.2 제품군 전 모델은 Apache 2.0 라이선스로 배포되어 누구나 자유롭게 활용할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Granite 4.2 LLMs: How They're Built
원문 보기 ↗