참고팁Reddit
초경량 결정 최적화 로컬 모델 'BaseDecision' 공개
의도 분류 및 라우팅 태스크를 위한 로컬 모델. 속도와 정확도가 중요한 System-1 작업에 적합함.
요약
BaseDecision은 입력된 질문을 구조화된 결정으로 변환하기 위해 설계된 약 0.4B 파라미터 규모의 로컬 모델이다. 이 모델은 의도 분류, 라우팅, 예/아니오 확인, 평가와 같은 핵심 작업에서 속도와 정확성을 동시에 달성하는 것을 목표로 한다. 개발자는 시스템의 즉각적인 의사결정(System-1)을 위해 대규모 모델을 대체할 수 있는 작고 빠른 로컬 모델을 구축했다. 약 3억 2천만 개의 추가 학습 토큰을 사용해 성능을 최적화했으며, 이는 성능 경쟁력을 입증하는 과정이기도 하다. 제3자 비교 평가 결과, BaseDecision은 Laya, GLiNER 변형 모델 2종, Decision 1.0 Ka와 경쟁하여 총 8개 벤치마크 중 5개 항목에서 우수한 성과를 기록했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 A ~0.4 local model to turn typed questions into structured decisions - BaseDecision
원문 보기 ↗