참고Reddit
앤트로픽 Fable, 의학 관련 대화 제한 강화 논란
앤트로픽 모델의 안전성 가이드라인이 특정 도메인에서 실제 사용성을 어떻게 저해하는지 보여주는 사례입니다.
요약
Anthropic이 최근 자사 AI 모델 Fable의 의료 및 건강 관련 대화 가이드라인을 완화하겠다고 발표했으나, 실제 사용자들의 체감은 여전히 엄격한 것으로 나타났다. 레딧(Reddit) 커뮤니티에서는 여전히 시차 적응과 같은 일상적인 조언조차 거부당했다는 이용자들의 경험담이 이어지고 있다. 특히 멜라토닌 외의 특정 의약품에 대한 논의는 거의 불가능한 상태로, 보안 필터가 과도하게 작동하고 있다는 불만이 제기되었다. 실무자들은 Anthropic이 밝힌 가이드라인 완화 의지와 실제 서비스 적용 사이의 간극을 주시할 필요가 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Fable guidelines against medical conversations
원문 보기 ↗