MS 사티아 나델라 CEO의 AI 안전 철학: '비상 정지 장치' 도입 제안

요약

Microsoft의 Satya Nadella CEO가 X(구 트위터)를 통해 AI의 안전성을 높이기 위한 새로운 신뢰 아키텍처 구축의 필요성을 강조했다. Nadella는 AI 모델을 복잡한 블랙박스로 취급하지 말고, 모델 자체와 그 작업을 조정하는 제어 시스템을 분리하며 외부적인 안전장치를 마련해야 한다고 주장했다. 특히 모든 의미 있는 모델 작업은 위조 방지가 가능한 인간이 읽을 수 있는 증거로 기록되어야 하며, 권한을 가진 관리자가 모델을 즉시 일시 정지하거나 중단시킬 수 있는 '비상 제동 장치'와 같은 기능이 필수적이라고 언급했다. 그는 모델이 초기부터 손상될 가능성을 가정하고 이를 차단하는 보안 전략을 취해야 한다고 덧붙였다. 이러한 발언은 주요 AI 기업들이 모델 제어 문제에 직면하고 Anthropic의 Dario Amodei CEO가 신중한 AI 개발 계획을 발표하는 시점에 맞춰 나왔다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.