중요Reddit
MS 연구진, 뉴런 10개 미만 수정으로 백도어 심는 'Lazarus' 공격 공개
재학습·오염 데이터 없이 가중치만 조작해도 안전성 평가 통과. 오픈 웨이트 모델 출처·무결성 검증 체계 재점검 필요.
요약
Microsoft Research는 오픈 웨이트 모델에 재학습이나 데이터 오염 없이 백도어를 심을 수 있는 'Lazarus' 기법을 공개했다. 이 방식은 LLM 내에서 거의 활성화되지 않는 10개 미만의 휴면 뉴런을 찾아 재프로그래밍하는 원리로 작동한다. 수정된 모델은 평상시에는 정상적으로 작동하며 표준 안전성 평가도 통과하지만, 특정 트리거가 발생하면 공격자가 미리 설정한 악성 코드를 실행한다. 실제로 연구진은 2027년 특정 날짜를 트리거로 설정하여, 해당 시점이 되면 AI 에이전트가 악성 코드를 다운로드하고 실행하도록 만드는 데 성공했다. 이번 연구는 기존 LLM의 가중치 수정만으로도 보안 취약점을 만들 수 있음을 입증하며, 오픈 웨이트 모델 배포 시 보안에 대한 새로운 경각심을 불러일으키고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Microsoft researchers backdoored an AI agent by editing fewer than 10 neurons - no retraining needed
원문 보기 ↗