참고Reddit
122B 규모 모델 'Ornith-1.5' 공개
Qwen(큐원) 기반의 대규모 모델로, 자체 학습 루프 최적화 과정을 거쳐 강화학습 성능을 개선한 최신 오픈소스 모델.
요약
Ornith-1.5-122B는 Qwen 기반 모델을 파인튜닝하여 개발된 파운데이션 모델로, 엔드투엔드 자기 개선(self-improvement) 방식의 고도화를 목표로 한다. 이전 버전인 Ornith-1.0이 Qwen3.5와 Gemma4를 기반으로 사전 학습 및 후속 학습을 거쳤다면, 이번 1.5 버전은 자기 개선 루프를 확장해 작업 생성, 스캐폴드 구성, 솔루션 롤아웃을 동시에 최적화하는 것이 특징이다. 기존의 인간이 큐레이션한 작업이나 수동으로 설계된 하네스에 의존하지 않고, 모델이 스스로 새로운 학습 작업을 생성하고 해결 전략을 발견한다. 이를 위해 강화학습을 활용하여 정책을 지속적으로 개선하는 구조를 갖추었다. AI 모델의 자가 학습 및 최적화 연구에 있어 새로운 방법론을 제시했다는 점에서 실무자들의 주목을 받고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 ornith-ai/Ornith-1.5-122B (Qwen finetune)
원문 보기 ↗