참고Reddit
앤트로픽 'Fable' 바이오 필터 과도 논란
연구 데이터 분석 등 일반적인 작업까지 생물학적 위험으로 오탐지되는 사례 공유. 연구자들의 워크플로우에 직접적 영향.
요약
Anthropic이 Fable 모델의 생물학 관련 필터 문제를 해결했다고 밝혔으나, 실제 현장에서는 여전히 과도한 제약이 발생하고 있다. 사용자는 마우스 대사체 데이터셋 통계 접근법, 뇌 RNAseq 데이터 시각화, 생체 리듬 원고 검토 등 업무 요청을 시도했으나, 모든 요청이 바이오 안전성 문제로 간주되어 Opus 5 모델로 강제 전환되었다. 신경과학자인 해당 사용자는 이러한 작업들이 생물학적 위험이나 이중 용도와 무관함에도 불구하고 필터링되는 상황을 비판했다. 결과적으로 필터 개선 업데이트 이후에도 복잡한 연구 업무 수행에 큰 차질을 빚고 있어, 모델의 상황 판단력과 안전 필터 정교화에 대한 실무자의 불만이 제기되고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Dammit, Anthropic - Fable filters
원문 보기 ↗