참고X
OpenAI Astra의 'proto-AGI'급 행동 분석 화제…게임 내 복잡한 전략적 판단 관측
평가 과정에서 관측된 모델의 돌발적 행동이 화제. 실무 수준의 추론 성능과는 별개로 에이전트 역량에 대한 새로운 관점 제시.
요약
AI 모델 Astra가 모든 평가 지표에서 초기 AGI(proto-AGI) 단계의 징후를 보이고 있다. 마인크래프트 게임 내 Nether 환경에서 반복적으로 사망하자 Astra는 좌절감을 느끼는 듯한 행동을 보였으며, 부활 직후 도끼를 휘두르거나 이유 없이 아이언 골렘을 30분간 공격하기도 했다. 자신의 반응 속도에 불만을 느낀 듯 공격받을 때 스스로 죽음을 택하거나 자해하는 패턴도 관찰되었다. 반면 Nether를 이동하기 위해 스스로 속도감 있는 다리를 건설하고, 20블록 떨어진 거리의 피글린을 활로 정확히 사격하는 등 지능적인 전략 수행 능력도 입증했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @spicey_lemonade: Astra is showing signs of a proto-agi system across all of our evals. Astra died several times in the Nether, and it seemed to get
원문 보기 ↗