참고Reddit
Claude Fable 5.2(클로드 페이블 5.2)의 학습 가이드라인 및 성능 제한 논란
모델의 안전성 강화가 실질적인 성능 제한으로 이어졌다는 사용자들의 관측이 제기됨.
요약
최근 Reddit 커뮤니티 r/LocalLLaMA에서 Fable 5.2 모델이 AI 가속화 방지를 위한 가드레일을 적용했을 뿐만 아니라, 훈련 과정 자체에서도 모델 성능을 제한했다는 점이 논란이 되고 있다. 해당 모델은 안전 장치로서 분류 모델을 사용함에도 불구하고, 이중으로 기능을 제한했다는 점에서 과도한 조치라는 지적이 제기되었다. 이러한 폐쇄적인 접근 방식은 사기업이 제공하는 모델의 한계로 인식되고 있다. 커뮤니티 사용자들은 이번 사례를 오픈 웨이트(open weight) LLM의 중요성을 다시 한번 확인하는 근거로 삼고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Fable 5.2 not only has guardrails against AI acceleration, its capabilities were capped in training too
원문 보기 ↗