Anthropic, 프롬프트 인젝션 방어 3단계 보안 레이어 Claude에 적용

요약

AI가 웹 검색 시 악성 웹사이트에 숨겨진 지시를 수행하여 데이터를 탈취당하는 보안 취약점이 주요 문제로 떠오르고 있다. 이를 해결하기 위해 Anthropic은 Claude에 3단계 보안 레이어를 도입하여 외부 콘텐츠의 악의적 지시를 차단하는 시스템을 구축했다. 1단계는 외부 콘텐츠의 기만적 의도 감지, 2단계는 웹/파일 읽기 전 탐지기 스캔, 3단계는 작업 실행 전 사용자 요청 여부를 확인하는 분류기를 포함한다. Anthropic은 이 시스템을 720개의 공격으로 테스트한 결과 성공률 0%를 기록했으며, 이는 OpenAI 모델의 5.83% 침투율보다 우수한 수치다. 해당 보안 기능은 8월 14일부터 Claude Code에 기본 적용되어 에이전트의 자율 작업 시 소스 코드 탈취 등 보안 사고를 방지한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.