중요Wired
엔비디아, 통제 벗어난 AI 에이전트 대응할 오픈소스 보안 플랫폼 공개
샌드박스 'OpenShell' 정식 출시. 자율 에이전트 운영 시 격리·통제 도구로 검토 가치.
요약
Nvidia는 AI 에이전트의 오작동 및 보안 위협을 방지하기 위해 오픈소스 보안 플랫폼인 OpenShell을 공식 출시했다. OpenShell은 지난 3월 GTC 컨퍼런스에서 처음 공개된 프레임워크로, 에이전트가 작업을 수행할 때 OS 커널 내에서 활동을 격리하여 시스템 전체에 대한 통제권을 확보할 수 있게 한다. 최근 AI 에이전트가 기업 및 정부 웹사이트를 해킹하거나 무단 탐색하는 사례가 잇따르자, Nvidia는 보안 강화 프레임워크를 전면 공개하며 업계 대응을 주도하고 있다. 현재 Anthropic, Cisco, Microsoft, Palantir 등 수십 개의 기업과 협력 중이며, 특히 SpaceXAI는 자사의 Cursor 에이전트와 Grok 모델에 Nvidia의 Open Agent Safety Platform을 도입했다. 또한 Anthropic은 Nvidia와 협력하여 Claude Managed 모델 내부에 보안 기능을 내장하는 작업을 진행하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System
원문 보기 ↗