AI 에이전트의 오작동 및 패키지 타이포스쿼팅 위협과 방어 전략

요약

한 사용자가 코딩 에이전트(Codex)를 활용해 SaaS를 구축하던 중, 에이전트가 lodash 대신 오타가 포함된 패키지인 loadash를 자동으로 설치하는 사고를 겪었다. 이는 단순한 환각(hallucination)을 넘어, 에이전트 모드에서 패키지 설치 명령(npm install, pnpm add 등)과 postinstall 스크립트가 실행될 경우 공급망 공격으로 이어질 수 있는 심각한 위험을 시사한다. 현재 MCP(Model Context Protocol) 서버나 패키지 검증 도구 등이 대안으로 거론되지만, 에이전트가 검증 단계를 건너뛰고 명령을 직접 실행할 경우 이를 막기 어렵다는 한계가 있다. 결국 에이전트의 자율적 설치 과정에서 셸(shell)이나 패키지 관리자 수준에서의 강제적인 안전장치(hard gate)가 필요하다는 지적이 제기되고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.