참고X
Perplexity(퍼플렉시티), 에이전트 샌드박스 'SPACE' 레드팀 연구 결과 공개
에이전트 보안 테스트 시 기존 CTF 방식의 한계를 지적함. AI 에이전트 설계 시 참고할 보안 지표 제공.
요약
Perplexity가 컴퓨터 에이전트 전용 VM 샌드박스인 SPACE를 대상으로 진행한 레드팀 연구 결과를 발표했다. 이번 테스트에서는 12개의 모델을 대상으로 VM 탈출을 통한 호스트 자격 증명 탈취와 SPACE 네트워크 정책 우회라는 두 가지 과제를 수행하게 했다. 연구 결과, 기존 레드팀의 Capture the Flag 방식은 에이전트가 실제 테스트해야 할 보안 경계에서 벗어나게 유도할 수 있는 것으로 나타났다. 또한 보안에 특화된 모델이라고 해서 반드시 더 나은 보안 성능을 보장하지는 않는다는 점을 확인했다. 이번 연구는 에이전트 환경의 보안 평가 방법론에 대한 새로운 통찰을 제공한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @perplexity_ai: We are publishing new research on our findings from red-teaming SPACE, our VM sandbox for Computer agents. We gave 12 models two t
원문 보기 ↗