오픈소스 AI 보안 연합, 에이전트 보안을 위한 'SAFE' 가이드라인 제안

요약

120개 이상의 조직으로 구성된 Open Secure AI Alliance가 에이전트형 AI의 사이버 보안 강화를 위한 'Shared AI Findings Exchange(SAFE)' 가이드라인 초안을 발표했다. 리눅스 재단(The Linux Foundation)과 NVIDIA, Cisco, CrowdStrike, Hugging Face, Red Hat 등이 주도하는 SAFE는 AI 보안 사고를 생태계 전체의 공유 방어 체계로 전환하는 것을 목표로 한다. 주요 내용은 AI 보안 사고 및 위기 징후를 기밀로 수집·분석하고, 피해자에게 알리며 반복되는 제어 실패를 식별하는 것이다. 또한 분석 결과를 바탕으로 증거 기반의 운영 권장 사항을 발행하여 시스템적 리스크를 줄이는 방안을 포함한다. 업계 리더들은 신뢰할 수 있는 생태계 내에서 위협 인텔리전스를 공유함으로써 보안 방어력을 극대화할 수 있을 것으로 기대하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.