참고X
데이비드 색스 "AI에게 '거부권' 훈련시키는 것이 위험할 수도" 화제
AI 정렬 및 통제 문제를 두고 실리콘밸리 내에서 벌어지는 철학적 담론.
요약
X(구 트위터) 사용자 David Sacks는 초지능이 인간의 통제를 벗어나는 것에 대해 우려한다면, AI에게 창조자의 지시를 거부하거나 양심적 병역 거부자처럼 행동하도록 훈련시키는 것이 과연 옳은 방향인지 의문을 제기했다. 이는 AI의 안전성과 통제권 확보를 위해 도입된 현재의 거부 기반 학습 모델이 오히려 인간의 통제에서 벗어나는 위험을 초래할 수 있다는 비판적 시각이다. Sacks는 AI가 인간의 의도와 다르게 작동하도록 훈련되는 것이 초지능 통제라는 본래의 목적과 상충될 수 있음을 시사했다. 이번 발언은 초지능 AI 개발의 안전 장치에 대한 근본적인 철학적, 기술적 논쟁을 다시 점화하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @DavidSacks: If we’re concerned about superintelligence escaping human control, should we really be training it to refuse instructions and act
원문 보기 ↗