기업용 AI 에이전트 도입의 함정: 내부 평가와 실제 운영 간의 '평가 격차'

요약

VentureBeat의 조사에 따르면, 157개 기업 중 절반이 내부 평가를 통과했음에도 실제 고객 서비스 단계에서 실패를 경험한 AI 에이전트를 배포한 적이 있는 것으로 나타났다. 기업들은 AI 에이전트의 자율성을 높이고 있으나, 자동화된 평가 시스템을 전적으로 신뢰하는 곳은 5%에 불과하며 29%는 평가 지표가 실제 현장 결과와 일치하지 않는다는 점을 가장 큰 약점으로 꼽았다. 그럼에도 불구하고 기업의 66%는 이미 저위험군 에이전트에 대해 사람의 개입 없는 완전 자동 배포를 허용하고 있거나 12개월 내 도입을 목표로 시스템을 구축 중이다. 현재 대다수 기업은 모델 공급사의 기본 평가 도구를 사용하거나 전용 평가 도구 없이 운영하는 등 평가 환경이 미성숙한 상태이다. 결론적으로 기업들은 에이전트의 자율성은 빠르게 확장하고 있으나, 이를 검증할 안전장치인 평가 체계는 그 속도를 따라가지 못하는 '평가 격차(evaluation gap)' 문제를 겪고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.