Fable 5.1 성능 회귀 정황: 에이전트 로그서 오류율 3~4배 급증
작업당 결함 1.16→4.22, 기능 버그 0.95→2.84. 모델 업데이트 시 감이 아닌 로그로 검증 필요.
요약
한 AI 에이전트 개발 환경에서 모델을 Fable 5에서 Fable 5.1로 교체한 후, 이전 수정 사항을 재수정하는 빈도가 급증하는 등 성능 저하 현상이 관찰되었습니다. 개발팀이 로그를 정밀 분석한 결과, 작업 항목당 발견된 문제 건수는 1.16건에서 4.22건으로 대폭 증가했습니다. 기능적 버그 발생 또한 기존 0.95건에서 2.84건으로 늘어났으며, 검증 단계를 통과한 '탈출 버그(escaped bugs)' 역시 0.45건에서 1.23건으로 상승했습니다. 이러한 수치는 과거 Opus 5에서 경험했던 성능 저하 문제와 유사한 패턴을 보이고 있습니다. 이번 분석은 단순한 체감이 아닌 구체적인 품질 로그를 기반으로 Fable 5.1의 성능 문제를 확인했다는 점에서 시사하는 바가 큽니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Fable 5.1 Is Starting to Look Like Opus 5.1 for Us > Our Logs Show a Sharp Rise in Error Rates
원문 보기 ↗