참고Reddit
에이전트 특화 오픈소스 모델 'Axion 1.0' 공개
DPO나 추가 미드 트레이닝 없이 3단계 학습만으로 에이전트 성능을 최적화한 오픈소스 모델.
요약
Axion 1.0은 강력하고 광범위한 에이전트 기능을 갖춘 완전 오픈 소스 에이전트 파운데이션 모델로, r/LocalLLaMA 커뮤니티에서 주목받고 있다. 이 모델은 중간 학습, DPO(Direct Preference Optimization), OPD(On-policy Distillation) 없이 두 단계의 경량 SFT와 강화 학습이라는 단순한 3단계 학습 방식을 거쳤다. 첫 번째 SFT 단계에서는 모델이 스스로 성공적인 해결 전략을 바탕으로 문제를 합성하고 강화하는 방식으로 독립적인 추론 능력을 개발했다. 두 번째 단계에서는 실세계 데이터에 기반한 다양하고 자동 검증 가능한 작업을 구축하는 파이프라인을 통해 도구 사용 능력을 확장했다. Axion 1.0은 이러한 효율적인 학습 레시피를 통해 복잡한 추론과 도구 활용이 필요한 에이전트 작업에 최적화된 성능을 제공한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Axion1-0/Axion-1.0-35B · Hugging Face
원문 보기 ↗