참고AI타임스
무스타파 술레이먼 MS AI CEO, 앤트로픽의 'AI 의식' 훈련 방식 비판
AI 기업 간 철학적 대립 심화. 모델 개발 방향성 및 안전성 논의에 대한 업계 내 견해 차이를 확인 가능.
요약
무스타파 술레이먼 마이크로소프트(MS) AI CEO는 16일 자신의 블로그를 통해 AI에 의식이나 권리를 부여하려는 움직임이 재앙적 위험을 초래할 수 있다고 경고했다. 그는 앤트로픽이 자사 AI 모델 '클로드'를 도덕적 주체로 간주하고 훈련하는 방식을 직접적으로 비판하며, 이는 초지능 통제 불능의 위험을 키운다고 주장했다. 특히 앤트로픽의 행동 지침인 '클로드 헌법'이 AI에게 의식이나 감정이 있는 것처럼 대우하는 것을 문제 삼았다. 술레이먼 CEO는 AI를 인간의 도구로서 명확히 정의하고 통제해야 한다는 입장을 고수했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 술레이먼, 앤트로픽에 직격탄..."AI에 의식·권리 부여는 재앙적 위험"
원문 보기 ↗