암호화된 '숨은 추론 과정' 복호화 가능성 입증 — OpenAI·Anthropic·Google 모두 해당

요약

최근 연구팀은 OpenAI, Anthropic, Google의 최신 LLM API에서 제공되는 '숨겨진 추론 흔적(hidden reasoning traces)'을 추출하는 공격 방식을 공개했다. 연구진은 GitHub와 Hugging Face에 공개된 Claude, GPT, Gemini 모델의 에이전트 궤적 6,708개를 분석하여 총 315,320개의 재구성된 추론 블록을 확보했다. 이 과정에서 API 키 62개, 비밀번호 33개, 액세스 토큰 24개 등 총 704개의 민감한 개인정보 및 보안 데이터가 복구되었다. 특히 이 중 64개의 보안 정보는 사용자가 확인 가능한 세션에는 노출되지 않고 오직 내부 추론 블록에만 포함되어 있었던 것으로 확인되었다. 이는 API 응답 내 숨겨진 데이터가 보안 취약점이 될 수 있음을 시사하며, 개발자들은 모델이 내부적으로 처리하는 추론 과정에서 민감 정보가 유출되지 않도록 각별한 주의가 필요하다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.