MiMo-V2.6 RL 스케일링 기술적 상세 화제

요약

오픈소스 모델팀인 @_LuoFuli 팀은 오픈소스 모델 사상 최대 규모의 강화학습(RL)을 시도한 MiMo-V2.6을 공개했다. MiMo-V2.6은 미드 트레이닝 단계와 강도 높은 RL을 결합하여 현재 오픈소스 모델 중 1위 성능을 달성했으며, 연구 및 엔지니어링 측면에서 DeepSeek R1보다 앞선 기술적 도전 과제를 해결했다. 연구진은 검증 가능한 코드 및 에이전트 작업에는 MixRL을, 검증이 어렵거나 장기적인 작업에는 MOPD를 병행하여 학습 효율성을 극대화했다. 실무적인 에이전트 RL 발전을 위해 MiMo RL 궤적에서 증류한 Qwen 모델과 7,000개의 다양한 환경 데이터셋, 그리고 완전한 RL 학습 프레임워크를 함께 공개했다. 이번 기술 보고서는 에이전트 RL 실무자들에게 지속적으로 영감을 주는 중요한 자료가 될 것으로 평가받는다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.