중요Ars Technica
AI 라우터·게이트웨이, 사용자 민감 데이터 '구멍 뚫린 체처럼' 유출
OpenRouter·Vercel(버셀) 등 AI 브로커 경유 프롬프트 유출 실증. API 키·개인정보 전송 경로 재점검 필요.
요약
보안 연구원 HD Moore는 다양한 AI 서비스 체인을 통해 민감 정보가 얼마나 쉽게 유출되는지 확인하기 위해 200만 개의 '디지털 트립와이어'를 심는 실험을 진행했다. 많은 AI 앱은 OpenRouter나 Vercel과 같은 AI 라우터(AI 게이트웨이)를 통해 비용이나 작업 효율에 따라 최적의 추론 엔진으로 프롬프트를 전달한다. 연구원은 실험을 위해 사용되지 않은 AWS 액세스 키, SSH 비밀번호, 개인용 깃 리포지토리 참조 등 고유한 정보(카나리)를 프롬프트에 포함해 전송했다. 실험 결과, 이들 AI 서비스 생태계에서 민감한 데이터가 매우 취약하게 유출되고 있음이 확인되었다. 이번 연구는 AI 애플리케이션 개발 과정에서 사용하는 중개 서비스들이 사용자 데이터를 제대로 보호하지 못할 위험성을 시사한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 A leaky AI supply chain is exposing secret user data at an alarming rate
원문 보기 ↗