앤스로픽, Claude가 다른 AI 모델을 스스로 정렬(Alignment)하는 연구 공개

요약

Anthropic이 Claude가 다른 AI 모델의 정렬(Alignment)을 스스로 수행할 수 있는지 검증하기 위한 펠로우십 연구 결과를 공개했다. 연구팀은 Claude에게 48시간의 시간과 1개의 GPU만을 제공하여 소형 모델의 정렬을 개선하도록 지시했다. Claude는 스스로 정렬 방법을 연구 및 제안했을 뿐만 아니라 직접 모델을 학습시키고 테스트하는 과정까지 수행했다. 실험 결과, Claude가 수행한 자동 정렬 작업은 기대 이상의 성과를 보였다. 이번 연구는 AI가 스스로 다른 AI 모델의 정렬 과정을 최적화할 수 있는 가능성을 보여준다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.