엔비디아 주도 AI 보안 연합 OSAA, 출범 1주 만에 첫 가이드라인 제안
AI 보안사고 보고·분석 표준화 착수. 엔터프라이즈 AI 도입 시 향후 준수 요건이 될 수 있어 주시 필요.
요약
Nvidia가 주도하여 설립 일주일 만에 120개 이상의 기업이 참여한 Open Secure AI Alliance(OSAA)가 'Shared AI Findings Exchange(SAFE)'라는 워킹 그룹을 구성했다. 이 그룹은 현재 라스베이거스에서 열리는 Black Hat 컨퍼런스에서 AI 사이버 보안 사고의 기밀 보고, 피해자 알림, 비난 없는 분석 방식에 대한 제안서를 공개하고 의견을 수렴 중이다. Linux Foundation이 해당 제안서 관리를 맡고 있으며, 참여 기업들은 AI 에이전트 보안 강화 및 공격 방어를 위한 오픈 소스 기술과 자료를 공유하고 있다. Nvidia는 자사의 오픈 모델과 LLM 취약점 스캐너인 'Garak'을 기여했으며, Okta는 에이전트 식별 기술, Red Hat은 에이전트 거버넌스, Amazon은 에이전트 구축 도구 'Strands Agents'와 권한 부여 언어인 'Cedar'를 제공하고 있다. OSAA는 이러한 협력을 통해 기업이 자체 AI 에이전트를 안전하게 보호하고 악의적인 AI 공격에 대응할 수 있는 오픈 소스 표준을 마련해 나갈 예정이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Nvidia doesn’t mess around: A week after open AI industry group formed, it’s already showing progress
원문 보기 ↗