"AI 에이전트 확산, 기존 DX 방식으론 한계"…플래티어 AX 전략 제언

요약

이상훈 플래티어 대표는 15일 한국인공지능산업협회 조찬포럼에서 AI 에이전트의 기업 내 확산을 위해 기존 디지털 전환(DX)과는 차별화된 운영 및 평가 체계가 필요하다고 강조했다. AI는 기존 소프트웨어와 달리 확률적 결과를 생성하므로, ERP·CRM 등 기존 시스템과 연동 시 도구 호출 과정에서 발생하는 파라미터 환각, 응답 지연, 권한 오류 등을 주의해야 한다. 이를 해결하기 위해 에이전트 용도에 따라 목표와 KPI를 다르게 설정하고, 일정 신뢰도 미만 시 사람이 검토하는 '휴먼 인 더 루프' 체계를 도입해야 한다. 또한, 등록·범위 설정부터 운영·롤백까지 4단계 검증 게이트를 거쳐야 하며, 설계 단계부터 보안 필터, 감사 로그, 킬 스위치 등의 거버넌스를 필수적으로 포함해야 한다. 이상훈 대표는 기업이 AI 모델 도입 자체에 매몰되지 말고, 반복성과 재현성을 숫자로 증명할 수 있는 아키텍처 및 오케스트레이션 설계에 집중해야 한다고 제언했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.