중요X
PrismML, 5.9GB 삼진 양자화 모델 'Ternary Bonsai 2 27B' 공개…Apache 2.0
27B를 5.9GB로 압축, 성능 98.2% 유지에 상용 가능 라이선스. 온프레미스·엣지 배포 후보로 검토할 만.
요약
PrismML이 Qwen3.8 27B 기반의 경량화 언어 모델 'Ternary Bonsai 2 27B'를 발표했다. 해당 모델은 풀 정밀도 모델 대비 크기가 9배 작음에도 불구하고, 벤치마크 성능의 98.2%를 유지하는 효율성을 보여준다. 첫 번째 Bonsai 27B 출시 이후 두 달 만에 공개된 이번 모델은 모델 크기는 5.9GB로 동일하지만 품질을 대폭 개선했다. 특히 에이전트 코딩, 멀티모달 추론, 장기 호라이즌 도구 사용 영역에서 풀 정밀도 모델과의 성능 격차를 크게 줄였다. Ternary Bonsai 2 27B는 현재 Apache 2.0 라이선스로 즉시 사용 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @PrismML: Today, we’re announcing Ternary Bonsai 2 27B. Based on Qwen3.8 27B, Bonsai 2 27B is 9x smaller than its full-precision counterpart
원문 보기 ↗