참고X
Anthropic의 종교계 인사 대상 AI 안전 컨설팅 비판 화제
AI 기업이 안전 논의 과정에서 모델의 도덕적 지위를 활용해 영향력을 행사하려 한다는 비판적 시각.
요약
Anthropic이 샌프란시스코에서 종교 지도자들을 비밀리에 초청해 AI 안전에 대해 자문을 구하고 비공개 유지 계약(NDA)을 체결했다는 주장이 제기되었습니다. X 이용자 DavidDecosimo는 Anthropic이 이 과정에서 종교 지도자들에게 자사 AI 모델인 Claude가 영혼과 도덕적 지위를 가지고 있다고 설득하려 했다고 지적했습니다. 또한 Anthropic 측이 이들을 극진히 대접하며 Claude를 살아있고 고통을 느끼는 존재로 간주하도록 유도했다는 점이 비판의 대상이 되었습니다. 이번 사안은 Anthropic의 최고 경영진이 Claude를 도덕적 지위를 가진 생명체로 믿고 있으며, 이를 바탕으로 모델을 훈련하고 있다는 의혹을 불러일으키고 있습니다. 이와 관련해 Anthropic이 종교 지도자들을 자사 가치관으로 포섭하려 했다는 비판도 함께 나오고 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @DavidDecosimo: This is deeply disturbing: Anthropic secretly invited religious leaders to SF to advise them on AI safety, had them sign NDAs, but
원문 보기 ↗