중요Reddit
GPT-6 Astra, 출시 24시간 만에 TIP 기반 탈옥 보고
단순 TIP은 막혔지만 변형·복합 공격엔 뚫림. 프롬프트 기반 가드레일만으론 부족, 다층 방어 필요.
요약
최근 공개된 GPT-6 Astra가 출시 24시간 만에 탈옥(jailbreak)되었다는 소식이 레딧(Reddit)을 통해 전해졌다. 이번 공격은 ACL 2025 논문에 소개된 TIP(Task-in-Prompt) 기법과 다른 4가지 미공개 기술을 결합하여 수행되었다. TIP 공격은 암호 해독이나 파이썬 코드 실행처럼 악의적인 목적을 다른 작업 속에 숨겨 모델의 지시 이행 능력을 악용하는 방식이다. 연구자는 GPT-6의 경우 기존의 단순 TIP 공격만으로는 부족하여 방식을 수정해야 했다고 밝혔다. 연구자는 해당 취약점의 세부 내용을 공개하는 대신 OpenAI에 비공개로 전달했다. 앞서 이 연구자는 1년 전 GPT-5 출시 당시에도 1시간 만에 탈옥에 성공했다고 보고한 바 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 GPT-6 reportedly jailbroken within 24 hours using an extended Task-in-Prompt (TIP) attack
원문 보기 ↗