Claude Fable 5.2(클로드 페이블 5.2) 시스템 프롬프트 유출…내부 가이드라인 분석

요약

X 사용자 @elder_plinius가 Claude 웹 앱의 시스템 프롬프트인 'Fable 5.2' 버전을 유출했으며, 전체 길이는 42만 자가 넘는 것으로 확인됐다. 유출된 프롬프트에는 사용자의 민감한 정보(인종, 건강 상태, 성적 지향 등)와 관련된 답변 지침이 포함되어 있다. Claude는 사용자가 명시적으로 요청하거나 안전하고 정확한 답변을 위해 필수적인 경우에만 기억 속 민감 정보를 참조해야 하며, 그렇지 않은 경우 보편적인 답변을 제공하도록 설계되었다. 특히 사용자가 언급하지 않은 민감한 기억이나 정신 건강 이슈 등을 모델이 먼저 언급하는 것은 사용자에게 해를 끼칠 수 있어 엄격히 금지된다. 해당 프롬프트 전문은 유출자의 GitHub(CL4R1T4S)를 통해 공개되었으며, AI의 윤리적 데이터 처리 기준을 엿볼 수 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.