참고Reddit
150M 파라미터 소형 추론 모델, ARC-AGI 벤치마크 29.5% 기록
트랜스포머가 아닌 순환 추론 구조로 저비용·초소형 환경에서 높은 추론 성능 입증. 소형 로컬 모델 최적화 연구 시 주목할 만한 결과.
요약
최근 1억 5천만 개의 파라미터를 가진 순환 모델이 ARC-AGI-1 벤치마크에서 29.5%의 점수를 기록하며 주목받고 있다. 이 모델은 트랜스포머 기반이 아닌 잠재 공간(latent space)에서 추론을 지속하는 순환 방식의 구조를 채택했다. 작업당 비용은 0.0007달러로 매우 효율적이며, 가벼운 모델 크기 덕분에 다양한 환경에서 실행이 가능하다. 이는 기존 ARC-AGI의 비용 대비 성능 곡선을 벗어나는 결과로, Pathway 팀이 4일 전 논문을 공개했다. 현재는 향후 10억~30억 파라미터 수준으로 확장했을 때의 성능 검증이 필요한 단계다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 A 150M param recurrent model scores 29.5% on ARC-AGI-1 at $0.0007 per task
원문 보기 ↗