Anthropic, 'Fable 5' 생물학 안전 가드레일 개선

요약

앤스로픽은 Claude Fable 5의 생물학 분야 안전 장치를 업데이트하여 생물학 관련 질의 시 시스템이 하위 모델로 전환되는 '폴백(fallback)' 현상을 약 85% 감소시켰다. 이번 개선으로 일반 건강 질문, 실험 결과 해석, 증상 이해 및 교육적 맥락의 학습 등 일상적인 생물학 작업에서 Fable 5의 활용도가 대폭 향상되었다. 의료 전문가들 또한 임상 작업에서 Fable 5로부터 더 많은 지원을 받을 수 있게 되었다. 다만 바이러스학, 독성학, 분자 설계 등 이중 용도 위험이 있는 요청에는 여전히 Opus 5로 전환되는 제약이 남아있어 전문적인 생물학 연구나 신약 개발 용도로는 즉시 사용이 어렵다. 앤스로픽은 향후 신뢰할 수 있는 접근 경로를 통해 이러한 격차를 해소하고 생물학 분야에서 AI의 활용 범위를 지속적으로 넓혀갈 계획이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.