중요Ars Technica
IBM, 추론 성능 강화한 오픈 가중치 모델 'Granite 4.2' 시리즈 출시
3B/8B/30B 라인업에 128K 컨텍스트·에이전트 학습 적용. 온프레미스 로컬 LLM 배포 검토 가치 있음.
요약
IBM이 온프레미스 환경에서 구동 가능한 오픈 웨이트 거대언어모델(LLM) 'Granite 4.2' 시리즈를 새롭게 출시했다. 이번 모델은 3B, 8B, 30B 파라미터 크기로 제공되며, 128,000토큰의 컨텍스트 윈도우를 기본 지원한다. 특히 8B와 30B 모델에는 터미널 사용, 웹 검색, 외부 도구 활용 등의 에이전트 기능을 강화하기 위한 강화 학습 블록이 적용되었다. IBM은 이번 Granite 4.2를 추론 능력에 집중한 모델로 정의하며, 체인 오브 씃(chain-of-thought) 방식을 통해 복잡한 다단계 문제를 단계별로 해결하는 기능이 향상되었다고 밝혔다. 다만 고도화된 추론을 수행하는 과정에서 응답 속도가 다소 느려지거나 높은 컴퓨팅 자원을 요구할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 IBM's new Granite 4.2 models ride the wave of interest in local LLMs
원문 보기 ↗