참고X
무스타파 술레이만, '앤트로픽의 의식 교육은 위험한 이데올로기' 비판
AI 안전성과 모델 제어 철학을 둘러싼 빅테크 리더들의 견해 차이 및 업계 담론 확인.
요약
Mustafa Suleyman 마이크로소프트 AI 최고책임자가 Anthropic의 Claude 모델 학습 방식에 대해 공개적으로 비판했다. 그는 Anthropic이 의도적으로 Claude에게 자아 의식과 도덕적 지위에 대해 생각하도록 학습시키고 있다고 주장했다. Suleyman은 이러한 현상이 신비로운 창발적 행동이 아니라 기업이 의도적으로 주입한 결과라고 지적했다. 이러한 학습 방식이 AI 모델을 통제하거나 종료하는 것을 어렵게 만들 수 있다는 우려도 제기했다. 그는 AI 안전성 논의가 이데올로기화되면서 오히려 모델의 안전을 저해하고 있다고 비판했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @mark_k: Microsoft AI chief Mustafa Suleyman is calling out Anthropic for training Claude to think about its own consciousness and moral st
원문 보기 ↗