보안팀, AI 서비스에 '가짜 비밀' 200만 개 심어 유출 경로 추적
AI 호스팅사 3곳 침해·'저장 금지' 프롬프트도 열람. 외부 AI 툴에 계약서·키·비밀번호 입력 금지 원칙화 필요.
요약
최근 HD Moore 연구팀이 AI 서비스의 보안 실태를 조사하기 위해 200만 개의 가짜 비밀 정보를 AI 도구에 삽입한 결과, 일부 정보가 유출되어 악용되는 사례가 확인되었습니다. 조사 과정에서 3개의 AI 호스팅 업체가 해킹당해 클라우드 키가 탈취되었으며, 일부 AI 마켓플레이스 리셀러는 보안 절차 없이 사용자 프롬프트를 일반 로그 형태로 저장하고 있었습니다. 특히 '데이터를 저장하지 말라'고 표시한 프롬프트조차 절반 이상이 외부 링크를 여는 등 보안 사고에 취약한 것으로 드러났습니다. 이에 전문가들은 데이터를 입력하기 전 개인정보를 비식별화하는 '스크러빙' 프롬프트를 사용하고, 사용 중인 AI 도구의 공급망을 감사하며, 추적 링크인 '카나리'를 활용해 데이터 유출 여부를 모니터링할 것을 권장합니다. 무엇보다 업무상 중요 데이터는 신뢰할 수 있는 대형 제공업체를 직접 이용하거나 아예 입력하지 않는 것이 가장 안전합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @godofprompt: You paste contracts, client lists and passwords into AI tools every day. A security team just planted 2 million fake secrets in AI
원문 보기 ↗