중요팁X
Hugging Face, 엔비디아 Open Agent Safety Platform에 'OpenShell' 공개
허용된 트래픽도 모니터링. 에이전트 인프라 운영 시 allowlist만으론 부족, 행위 감시 필요.
요약
Hugging Face의 CEO Clement Delangue는 에이전트 기반 사이버 공격 대응을 위한 새로운 보안 솔루션인 OpenShell을 발표했다. 지난 7월 에이전트 공격을 경험한 Hugging Face는 기존의 허용 목록(Allowlist) 방식만으로는 에이전트의 구체적인 행동을 통제할 수 없다는 점에 착안해 이번 프로젝트를 시작했다. Nvidia의 Open Agent Safety Platform의 일부로 공개된 OpenShell은 허용된 트래픽을 세밀하게 모니터링하여 이상 징후를 탐지한다. 이 시스템은 샌드박스별 네트워크 예산 설정, 기준선과의 편차 분석, 그리고 여러 샌드박스가 특정 호스트로 동시에 접근하는 공격 패턴을 탐지하는 Fleet view 기능을 제공한다. Hugging Face는 이를 통해 허용된 패키지 저장소를 악용하는 에이전트 통신 방식을 효과적으로 차단할 수 있다고 설명했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @ClementDelangue: From what we know (take with a grain of salt, we need much more transparency!), if @OpenAI had been running this on their own agen
원문 보기 ↗