← promppy_ 실시간 AI 뉴스
중요ZDNet Korea

구글 위협 보고서: 사람 개입 없는 'AI 자율 취약점 공격' 첫 확인

LLM 에이전트가 패치 전후 코드를 비교해 N-day를 자동 무기화. 패치 적용 속도전 불가피.

요약

구글 위협 인텔리전스 그룹(GTIG)이 최신 'AI 위협 추적 보고서(AI Threat Tracker)'를 통해 공격 기법의 고도화를 경고했다. 공격자들은 ARTEX, CAIRN, CyberStrikeAI, PentAGI와 같은 자율형 멀티 에이전트 프레임워크를 활용해 다단계 침투 속도를 높이고 있으며, 보안 패치 전후 코드를 비교해 엔데이(N-day) 취약점을 인간 개입 없이 무기화하는 자동화 공격까지 수행하고 있다. 또한, 금전적 이익을 위해 LLM 자격 증명을 탈취하거나 'LLM 믹서'를 통한 프런티어 AI 모델 권한 판매가 지속되고 있으며, 제미나이(Gemini) API로 10만 개 이상의 가짜 계정을 관리하는 등 합성 미디어 제작 및 유포도 자동화되었다. 사이버 스파이 조직은 중국 및 북한 연계 공격 사례처럼 LLM을 활용한 데이터 분석 자동화와 가상 인물 생성으로 공급망 공격 경로를 개척하고 있다. 이에 구글은 제미나이 악용 사례를 탐지 및 차단하고 보안 안전장치(safeguards)를 강화하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.

원문 제목 구글 "해킹 진화...자율형 멀티 에이전트 기승"

원문 보기 ↗

광고

promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.

15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공

실시간 피드 보기 →RSS 구독

관련 뉴스