가중치 수정된 오픈 모델엔 백도어가 숨을 수 있다: Codex(코덱스)로 실증한 공격 시나리오

요약

최근 Hugging Face 등에서 배포되는 Qwen, Llama, gpt-oss 등 가중치가 수정된 오픈 모델들이 백도어 공격에 취약하다는 점이 확인되었습니다. 'Abliteration'은 모델의 거절 능력을 제거하기 위해 가중치에서 '아니오' 방향성을 찾아 빼내는 기법으로, 최근 안전 가이드라인을 우회하려는 목적으로 널리 사용되고 있습니다. 공격자는 이 방식을 악용해 모델 내부에 특정 트리거 문구나 고객명 등을 조건으로 작동하는 백도어를 쉽게 심을 수 있습니다. 이렇게 오염된 모델은 정상적인 요청에는 문제없이 응답하므로 기존의 일반적인 평가 방식으로는 감지가 불가능합니다. 실무자들은 검증되지 않은 오픈 모델을 가져다 사용할 경우 심각한 보안 위협에 노출될 수 있음을 인지하고, 모델 공급망의 안전성에 대해 주의를 기울여야 합니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.