참고팁X
AI 에이전트 보안의 핵심: 코드 리뷰를 넘어선 '거버넌스' 단계 설정 가이드
코드 리뷰만으로는 에이전트 보안이 불가능함. 실행 권한, ID 분리, 데이터 입력 필터링을 프로그래밍 단계에서 제어해야 함.
요약
안드레 카파시(Karpathy)는 에이전트 개발 시 코드뿐만 아니라 실행 환경과 보안 관리가 중요하며, 모델이 외부의 악의적인 텍스트 데이터를 실제 명령어로 인식할 수 있음을 경고했다. 에이전트의 취약점은 소스 코드보다는 권한 설정, 접근 가능한 시스템, 데이터 검증 로직인 'Govern' 단계에서 주로 발생한다. 이를 해결하기 위해 Google의 Agents CLI는 개발 과정에서 세 가지 보안 제어 기능을 평문 프롬프트로 적용할 수 있도록 지원한다. 최소 권한의 'Scoped identity', 프롬프트 주입 및 탈옥을 방지하는 'Model armor', 특정 호스트 접속만 허용하는 'Agent gateway'가 핵심 기능이다. 개발자는 이를 통해 별도의 보안 콘솔을 거치지 않고도 에이전트 개발 단계에서 직접 보안 설정을 통합 관리할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @_avichawla: Karpathy said something you'll regret ignoring: "You are still responsible for your software, just as before. You are not allowed
원문 보기 ↗