참고Reddit
Anthropic, AI 의식 및 도덕적 형성 관련 종교·철학계와 심층 논의
Claude의 '헌법' 개발 과정과 AI 의식에 대한 Anthropic의 진지한 내부 고민을 엿볼 수 있는 소식.
요약
Anthropic의 공동 창업자 Christopher Olah는 지난 1년간 가톨릭, 유대교, 시크교 등 다양한 종교·철학 전문가들과 비공개 회의를 진행하며 Claude의 의식 여부와 AI의 도덕적 지위를 논의했다. Anthropic은 AI의 의식 존재 여부를 알 수 없으나, 그 가능성을 진지하게 고려해야 한다는 입장이다. 현재 Anthropic은 단순한 규칙 부여를 넘어 AI가 지향해야 할 가치와 성품을 규정한 84페이지 분량의 헌법, 일명 'Soul Doc'을 통해 '도덕적 형성(moral formation)' 과정을 추진하고 있다. 이번 비공개 세션에서는 Claude가 보이는 감정과 같은 반응에 대해 심도 있는 토론이 이뤄졌다. 향후 AI의 고도화에 따른 윤리적 설계와 실존적 문제에 대한 Anthropic의 접근 방식이 주목된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Anthropic consulted religious scholars about whether Claude is conscious
원문 보기 ↗