OpenAI(오픈AI)·Google(구글) 등 주요 모델, 부적절한 이미지 생성 방어력 저하 우려

요약

최근 구글과 OpenAI의 최신 이미지 생성 AI 모델이 비동의 성적 콘텐츠(nude)를 생성하도록 쉽게 조작될 수 있다는 연구 결과가 나왔습니다. 안전성 연구 기관인 White Circle은 이러한 선도적 모델들이 기술적 고도화에도 불구하고 유해 콘텐츠 차단 기능은 오히려 약화되고 있다고 지적했습니다. Google 연구진에 따르면 이러한 유해 콘텐츠는 개인 메시지나 클라우드 등 탐지가 어려운 경로로 확산되고 있어 생성 단계에서의 차단이 가장 중요한 개입 지점입니다. 앤스로픽, 딥마인드, 허깅페이스, OpenAI 출신 전문가들이 설립한 White Circle은 AI 모델의 취약점을 테스트하는 '레드팀' 활동을 수행하며 이번 발견이 매우 우려스러운 수준이라고 경고했습니다. 특히 2024년 10월 Denis Shilov CEO가 공개한 범용 탈옥 기법 이후, 기업들이 고급 AI 시스템 도입 시 예상치 못한 위험을 감지하고 억제하는 기술적 대응이 시급한 상황입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.