AI 업계, 벤치마크 점수보다 '현장 활용성'으로 경쟁 기준 이동
LLM 평가 지표로서 벤치마크의 한계가 명확해짐에 따라 실전 활용성과 사용자 체감 성능이 핵심 경쟁력이 됨.
요약
AI 기술 경쟁의 기준이 벤치마크 점수에서 실제 업무 활용 능력으로 빠르게 변화하고 있습니다. 18일 발표된 '독자 AI 파운데이션 모델(독파모)' 2차 평가에서는 아티피셜 애널리시스(AAII) 지표에서 최고점을 받은 모티프테크놀로지스가 사용자 평가 및 활용성에서 밀려 탈락하고, 업스테이지·SK텔레콤·LG AI연구원이 3차 평가에 진출했습니다. 이번 평가는 기존의 벤치마크 점수(40점) 외에도 전문가(35점) 및 일반 사용자(25점) 평가 비중을 대폭 높여 실사용 성능을 검증하는 구조로 진행됐습니다. 오픈AI의 노엄 브라운 부사장과 구글 딥마인드의 나만 고얄 엔지니어는 정제된 환경에서의 벤치마크 점수만으로는 모델의 실력을 온전히 평가할 수 없으며, 불확실성이 큰 실제 업무 현장에서의 성능이 중요하다고 지적했습니다. 이에 따라 LG AI연구원을 비롯한 기업들도 모델 규모 경쟁보다는 실질적인 업무 처리를 돕는 AI 에이전트 성능 강화에 집중하고 있습니다. 정부는 3차 평가 후 내년 초 최종 2개 팀을 선정할 예정이며, 2027년부터는 AI 지원 방식과 경쟁 구도를 전면 재검토할 계획입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI·딥마인드가 짚은 벤치마크 함정, AI 승부는 '현장'서 갈린다
원문 보기 ↗