AI 모델의 숨겨진 추론 과정 추출하는 새 기법 등장... 보안·증류 위험 경고

요약

컴퓨터 과학자들이 최첨단 AI 모델이 복잡한 문제를 해결하는 과정에서 생성하는 내부 '사고(reasoning)' 과정을 추출할 수 있는 방법을 발견했습니다. 독일 튀빙겐 대학교와 막스 플랑크 연구소, Snyk 등 공동 연구진은 OpenAI, Anthropic, Google의 API 기반 최첨단 모델들에서 이러한 내부 사고 흔적이 노출되는 취약점을 확인했습니다. 이 방법을 통해 모델의 내부 추론 과정에서 비밀번호나 API 키와 같은 개인정보를 탈취할 수 있음이 증명되었으며, 현재는 수정된 상태입니다. 특히 연구진은 중국 Moonshot AI의 Kimi K3 모델이 Claude와 같은 미국 모델의 숨겨진 추론 패턴과 매우 유사한 결과를 출력하는 것을 확인하며, 미국 모델의 사고 방식을 추출해 학습에 활용했을 가능성을 제기했습니다. 연구진은 대다수의 주요 최첨단 모델 제공업체들이 유사한 취약점을 공유하고 있다고 경고했습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.