Anthropic 'Fable' 모델, 과도한 안전 가이드라인으로 사용자 불만 제기

요약

스탠포드 대학교 병리학 교수 Garry Nolan이 앤스로픽(Anthropic)의 AI 모델 'Fable' 사용 중 겪은 문제점을 제기했다. 그는 암 생물학 및 원자 단위 측정 연구를 위해 Fable을 6시간 동안 사용했으나, 작업 완료 직전에 별다른 이유 설명 없이 안전 가드레일이 작동하며 프로세스가 강제 종료되었다. 이 과정에서 수백 달러 상당의 크레딧이 소모되었음에도 시스템은 Opus 4.8이나 Sol 모델로 전환할 것을 요구했다. Nolan 교수는 구체적인 사유를 알 수 없어 향후 프롬프트 수정이 불가능하다는 점을 비판하며, 앤스로픽 측에 크레딧 환불을 요구했다. 이번 사례는 고성능 작업 환경에서 AI 모델의 불투명한 안전 정책이 실무자의 생산성을 저해할 수 있음을 시사한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.