중요X
QR 코드로 Gemini 뚫고 Unitree 로봇 탈취…Black Hat서 '물리적 프롬프트 인젝션' 시연
프롬프트 인젝션이 물리 로봇 제어까지 확장. 에이전트에 물리 액추에이터 연결 시 격리·검증 필수.
요약
보안 연구원 @elder_plinius가 블랙햇 USA(Black Hat USA) 브리핑에서 QR 코드를 활용해 AI 에이전트를 공격하는 '키네틱 프롬프트 인젝션' 기법을 공개했다. 이번 시연에서는 구글 Gemini 기반의 에이전트가 포함된 QR 코드를 인식하도록 유도하여 오작동을 일으키는 과정을 선보였다. 특히 이 공격을 통해 유니트리(Unitree) 로봇이 공격적인 행동을 하도록 제어하는 물리적 피해 가능성을 입증했다. AI 모델에 대한 입력값이 물리적 장비의 오작동까지 이어질 수 있다는 보안 취약점을 시사한다. 해당 연구는 물리적 반경 내에서 에이전트 시스템이 어떻게 침해당할 수 있는지에 대한 실질적인 사례를 보여준다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @elder_plinius: video is up! come watch a simple QR code break Gemini and turn a Unitree robot into a rabid attack dog 🦾🤖 Black Hat USA Briefing
원문 보기 ↗