참고X
AI 연구자 1,132명, 자동화된 AI 개발 속도 조절 및 국제적 감시 촉구
주요 프런티어 모델 연구자들이 재귀적 자기 개선 위험성에 대해 국제적 규제를 요구하는 움직임.
요약
OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral 소속 연구원 1,132명이 미국 정부에 자동화된 AI 개발 속도를 조절해달라는 청원을 제기했다. 이들이 우려하는 핵심은 모델이 스스로 실험 설계, 평가, 실패 분석, 개선안 제시를 반복하며 성능을 높이는 '재귀적 자기 개선' 과정이다. 기계가 연구 루프를 주도하게 되면, 더 강력한 후속 모델을 구축하는 데 필요한 시간이 획기적으로 단축될 위험이 있다. 이에 연구진은 기업 간 경쟁이 심화되어 통제가 불가능해지기 전에 국제적인 모니터링 및 거버넌스 도구를 마련하여 개발 속도를 조절해야 한다고 촉구했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @CodeswithClara: This is Shocking. 🤯 1,132 frontier lab AI researchers are asking the U.S. government to slow down automated AI development. They
원문 보기 ↗