참고Reddit
최신 AI 연구 역량 점검: 모델이 직접 가중치를 수정하는 시대
Claude(클로드)와 Opus(오푸스)가 직접 가중치를 수정하고 모델을 학습시키는 등 AI의 연구 역량이 비약적으로 상승 중. 현재 AI의 한계와 가능성을 파악하는 참고용.
요약
최근 6개월 전 프론티어 AI 모델이 AI 연구에 실패하고 있다는 주장에 대한 반증 사례들이 커뮤니티에서 화제가 되고 있다. 현재 Claude는 별도의 훈련 없이 신경망 가중치를 직접 작성해 가짜 법률 인용을 탐지하는 성과를 보였다. 또한 Opus 5.5 모델은 다른 모델의 버그를 수정하고 환각 현상을 줄이기 위해 가중치를 직접 편집하는 능력을 입증했다. 이외에도 Claude는 플로피 디스크에 담을 수 있는 수준의 DOS용 언어 모델을 직접 작성하고 훈련시키는 역량을 과시했다. 한편 Anthropic은 재귀적 자기 개선(RSI) 달성에 매우 근접했다고 경고하며 AI 연구 분야의 비약적 발전을 시사했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Six months ago someone posted about how frontier AI's were failing at AI research, and a bunch of people said to check back in six months...
원문 보기 ↗