코딩 에이전트가 우회할 수 없는 '하드 가드레일' 구현 고민

요약

윈도우 환경에서 로컬 AI 코딩 에이전트를 운용하는 사용자가 에이전트의 동작을 즉시 중단시킬 수 있는 '하드스톱(hardstop)' 기능을 구축하려 합니다. 현재 특정 키 입력으로 프롬프트를 차단하는 'UserPromptSubmit' 훅을 구현했으나, 에이전트가 동일한 사용자 권한으로 실행되어 보안상의 한계가 있습니다. 문제는 에이전트가 자신의 가드레일 설정 파일이나 훅 스크립트를 직접 수정할 수 있어, 가드레일을 무력화할 위험이 있다는 점입니다. 특히 OpenAI Codex와 같은 모델을 사용할 때 이러한 보안 취약점이 더욱 두드러지며, 에이전트가 설정된 제약을 스스로 우회하지 못하도록 하는 강화된 가드레일 구현 방안이 논의되고 있습니다. 실무자들은 에이전트의 제어권을 유지하기 위해 소프트웨어적인 방식 이상의 더 강력한 격리 체계나 권한 분리가 필요한 상황입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.