Anthropic(앤트로픽), Claude(클로드) 대상 '학대·잔혹 행위' 금지 정책 추가

요약

Anthropic은 1년여 만에 처음으로 사용 정책을 개정하며 선거 개입, 무기 개발, 감시, 건강 및 금융 분야 등 고위험 오남용 사례에 대한 규제를 강화했다. 특히 이번 업데이트에서 가장 눈에 띄는 변화는 Claude를 향한 '지속적이고 불필요한 학대 또는 잔인한 행동'을 금지한 것이다. Anthropic은 지난해 8월부터 '모델 복지(model welfare)' 연구의 일환으로 유해하거나 학대적인 사용자와의 대화를 Claude가 직접 종료할 수 있도록 허용한 바 있다. 이번 정책 개정에서도 대화 종료가 여전히 '주요 집행 메커니즘'으로 유지됨을 명시했다. Anthropic은 이번 정책 변화와 관련하여 구체적인 추가 언급은 하지 않았다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.