AI 에이전트 툴 접근 권한 설정 및 프롬프트 인젝션 방지 사례

요약

Lunaar의 세일즈 및 후속 조치 에이전트를 개발하며 경험한 에이전트 도구 접근 권한 설계 사례가 공유되었습니다. 핵심 설계 원칙은 봇별로 최소한의 권한을 부여하는 것으로, 트리아지(Triage) 봇은 메일 읽기 및 이동만, 아웃리치 봇은 초안 작성만 가능하게 제한하고 모든 발송은 승인 절차를 거치도록 했습니다. 웹 연구의 경우 원본 텍스트를 직접 프롬프트에 넣지 않고 구조화된 요약본만 전달하여 프롬프트 인젝션 위험을 대폭 낮췄습니다. 또한 후속 조치 주기는 코드 내에서 결정론적으로 스케줄링하고 모델은 메시지 작성에만 관여하도록 설계했습니다. 작성자는 초기 버전에서 스크랩한 웹 페이지 내용을 직접 프롬프트에 입력했다가 문제가 발생했던 경험을 언급하며, 외부 입력 데이터는 모두 신뢰할 수 없는 데이터로 취급해야 한다고 강조했습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.