리시 수낙, AI 개발 속도 조절 및 독립적 안전 검증 필요성 강조

요약

앤스로픽(Anthropic)의 수석 고문이자 전 영국 총리 리시 수낵(Rishi Sunak)은 AI 에이전트가 스스로를 개선하는 재귀적 자기 개선(recursive self-improvement) 단계가 예상보다 가까워졌다고 경고했다. 그는 AI 모델의 내부 작동 원리를 파악하기 어려워지는 현시점에서 자발적인 사전 테스트만으로는 안전을 담보할 수 없다고 지적했다. 이에 따라 정부가 나서서 독립적인 안전 검증을 수행하고, 연구소의 재귀적 자기 개선 진행 상황을 투명하게 공개하도록 강제해야 한다고 주장했다. 특히 업계 스스로가 속도 조절을 요구하고 있는 만큼, 정부는 이를 반영해 안전 정책을 마련해야 한다고 강조했다. 리시 수낵은 중국과의 기술 경쟁 속에서도 인류 재앙을 막기 위해 국가 간 솔직한 대화가 시급하다고 덧붙였다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.