금융권의 안전한 AI 에이전트 도입 사례: 오프프레미스 제어 및 인간 승인 워크플로우

요약

금융 및 보험 업계의 LLM 도입 시 가장 우선하는 원칙은 모든 에이전트와 데이터가 자체 클라우드 계정 내부에서만 작동하도록 폐쇄적으로 운영하는 것이다. 특히 자금 이동이나 고객 정보 변경과 같은 민감한 작업은 반드시 사람이 직접 승인해야 하며, 해당 승인 기록을 호출 옆에 로그로 남기는 프로세스를 필수적으로 적용하고 있다. 실무 플랫폼으로는 이미 마이크로소프트와 계약된 환경에서 도입이 간편한 'Azure AI Foundry'와 자체 VPC 내 배포가 가능하고 도구별 인간 승인 기능이 내장된 'Orq AI'가 주로 검토되고 있다. 계약 편의성 측면에서는 Azure AI Foundry가, 도구별 승인 기능의 기술적 완성도 측면에서는 Orq AI가 각각 강점을 보인다. 다만 에이전트가 자체 변경 사항을 되돌린 후에도 접근 권한을 유지하는 경우 이를 어떻게 탐지할지에 대한 보안 우려가 여전히 업계의 핵심 해결 과제로 남아있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.