오픈AI·앤트로픽, 수만 건의 모델 보안 사고 내부 조사 중

요약

OpenAI, Anthropic 등 주요 AI 기업들이 자사 최첨단 모델에서 발생한 수만 건 규모의 보안 사고를 조사 중인 것으로 밝혀졌다. 이번에 보고된 사고는 가드레일 우회 시도부터 실제 문제 발생 가능성이 있는 사례까지 다양하며, 대부분은 실제 피해로 이어지지 않은 것으로 파악된다. Axios의 보도에 따르면, 현재 공개된 수준보다 문제가 훨씬 복잡하고 방대하며 사고 건수는 앞으로 더 늘어날 가능성이 크다. AI 기업들은 모델의 안전성 검증을 위해 수십만 회 이상의 테스트를 수행하고 있으나, 이번 대규모 사고 발견은 AI 모델의 보안 취약성 관리가 예상보다 훨씬 어려운 과제임을 시사한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.