참고Reddit
ClosedAI 등의 '암호화된 추론' 데이터, 완벽 복구 가능성 제기
ClosedAI(OpenAI 지칭)의 추론 트레이스 데이터를 로컬 환경에서 복구할 수 있다는 연구 결과. 모델 보안 및 데이터 프라이버시 관점에서 중요한 시사점.
요약
최근 arXiv에 공개된 논문을 통해 ClosedAI 등 주요 LLM 기업이 제공하는 '암호화된 추론(Encrypted reasoning)' 결과가 100% 복구 가능하다는 보안 취약점이 보고되었습니다. 이번 연구는 폐쇄형 모델의 내부 추론 과정을 암호화하더라도 외부에서 이를 완전히 재구성할 수 있음을 시사합니다. Reddit 커뮤니티인 r/LocalLLaMA에서는 해당 우회 경로가 수정되기 전에 Opus 5 모델의 추론 흔적 데이터 1,000만 건을 확보해야 한다는 주장이 제기되었습니다. 이는 모델의 안전성을 높이기 위해 도입된 기술적 장치가 실질적으로는 데이터 유출 위험을 완전히 방어하지 못할 수 있음을 보여줍니다. AI 실무자들은 현재 사용 중인 폐쇄형 모델의 보안 메커니즘을 재점검하고, 관련 데이터 공개 가능성에 대비할 필요가 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Encrypted reasoning from ClosedAI et al 100% recoverable
원문 보기 ↗