참고X
오픈AI·앤스로픽 전 연구원, '통제 불능' 위험 경고하며 퇴사
주요 AI 랩 연구원들이 내부적으로 느끼는 위기감과 정렬 문제에 대한 경고가 산업 전반의 리스크 관리 담론으로 이어짐.
요약
OpenAI와 Anthropic에서 3년간 사전 학습 연구를 수행했던 한 연구원이 AI 업계를 완전히 떠났다. 그는 두 기업 모두 책임감 있게 행동하지 않으며, 예측 불가능한 결과를 초래할 수 있는 '자기 개선 AI(self-improving AI)' 개발 경쟁에 몰두하고 있다고 주장했다. 특히 Anthropic의 안전성에 대한 명성을 보고 합류했으나, 치열한 경쟁 속에서 안전 조치가 불충분하다고 판단했다. 그는 현재 연구소 내부에서 'crunchtime', 'endgame'과 같은 용어가 쓰일 만큼 상황이 급박하며, 많은 연구자가 기술이 10년 내에 실존적 위험을 초래할 수 있다고 믿고 있다고 밝혔다. 그는 단일 기업의 노력으로는 해결이 불가능하며, 국가적 차원의 조정과 규제, 혹은 기술 역량 개발의 일시 중지가 필요하다고 강조했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @VaibhavSisinty: A researcher who spent three years doing pretraining work at both OpenAI and Anthropic just quit the AI industry entirely. His cla
원문 보기 ↗