참고Reddit
AI가 AI를 개선하는 'RSI(재귀적 자기개선)'의 한계와 실증 연구
프리트레이닝 단계에서 RSI를 적용하는 것이 기술적으로 왜 어려운지 분석한 논문으로, 모델 아키텍처 연구에 시사점 제공.
요약
최근 Reddit의 r/LocalLLaMA 커뮤니티에서 재귀적 자기 개선(RSI)을 LLM 사전 학습(Pre-training) 단계에 적용하려는 시도가 주목받고 있습니다. 기존의 RSI 연구는 주로 학습된 모델을 개선하는 사후 학습(Post-training)에 국한되었으나, 이번 연구는 사전 학습 단계부터 이를 적용하고자 합니다. 사전 학습은 수개월에 걸쳐 수십만 GPU 시간이 소요되고 반복이 불가능하며, 모델뿐만 아니라 데이터 파이프라인과 인프라 등 시스템 전체를 개선해야 하는 난관이 존재합니다. 연구진은 이러한 한계를 극복하고 프런티어 수준의 사전 학습 전체 과정에 RSI를 적용한 첫 사례라고 밝혔습니다. 곧 801-30B-A3B-Base 모델이 공개될 예정입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 [Paper] No Second Run: Does RSI Stop at Frontier Pre-training? - 801-30B-A3B-Base Coming Soon
원문 보기 ↗