엔비디아, '오픈 보안 AI 연합' 출범…MS·IBM·허깅페이스 등 35개사 참여
폐쇄형 AI 보안툴은 침해 대응 시 공격자·방어자 구분 못 해 포렌식 발목. 오픈웨이트 방어 도구 검토 가치.
요약
NVIDIA는 2026년 7월 27일 마이크로소프트, IBM, Red Hat, Hugging Face 등 약 35개 파트너사와 함께 Open Secure AI Alliance를 출범했다. 이 연합의 목표는 사이버 보안을 위한 공유 오픈 모델과 도구를 구축해 AI 보안을 소수 기업의 폐쇄형 시스템에 국한하지 않고 개방하는 것이다. 이번 결성은 최근 발생한 Hugging Face 보안 침해 사고 당시 폐쇄형 AI 도구가 공격자와 방어자를 구분하지 못해 포렌식 작업이 차단됐던 사례가 계기가 되었다. 당시 Hugging Face는 오픈 웨이트 모델인 GLM 5.2를 자사 인프라에 활용해 1만 7천여 건의 활동을 분석하고 위협을 성공적으로 차단한 바 있다. NVIDIA는 '오픈형 모델이 위험하다'는 인식에 맞서, 오용 위험은 폐쇄형 모델에서도 동일하게 존재한다고 지적했다. 따라서 보안의 핵심은 폐쇄가 아닌 강력한 안전 장치(safeguards), 평가 체계, 그리고 빠른 대응에 있음을 강조했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 NVIDIA just announced Open Secure AI Alliance with goal to build and share open tools that promote responsible use of and trust in AI
원문 보기 ↗