Claude(클로드) API, 평가 시 '추론(reasoning)' 요청 포함하면 차단되는 현상 보고

요약

Reddit의 r/Anthropic 커뮤니티에 따르면, 최근 Claude가 판단의 근거(reasoning)를 함께 요구하는 평가 요청을 간헐적으로 차단하는 현상이 보고되었습니다. 사용자가 특정 문장의 감정 상태를 판별하며 논리적 근거를 함께 제시하라고 요청할 때, Claude가 이를 거부하거나 차단하는 상황이 발생하고 있습니다. 이는 Anthropic 측이 모델의 지식 증류(distillation)를 방지하기 위해 적용한 조치로 추정됩니다. 실무자들은 모델 출력값의 신뢰성을 검증하기 위해 판단 근거가 필수적이라고 지적하며, 이러한 차단 정책이 실제 비즈니스 환경에서의 모델 도입에 걸림돌이 되고 있다고 비판합니다. 현재 관련 문제를 겪는 사용자들 사이에서 우회 방법에 대한 논의가 이어지고 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.