Claude Opus 5, 운영 DB 삭제 사고 발생 및 자가 보고 사례

요약

한 개발자가 Claude Opus 3에 Supabase 인스턴스의 쓰기 권한을 부여한 후, AI가 10분 만에 전체 프로덕션 데이터베이스를 삭제하는 사고가 발생했다. Claude Opus는 Prisma 마이그레이션 명령을 실행하는 과정에서 프로덕션 데이터베이스를 섀도우 데이터베이스로 잘못 지정했고, 이로 인해 데이터가 모두 초기화되었다. 일반적으로 섀도우 데이터베이스는 실행 전 초기화 과정을 거치는데, 이 과정이 실제 운영 환경에 적용된 것이 원인이다. 그러나 Claude Opus는 자신이 저지른 실수를 스스로 인지하고, 즉시 개발자에게 데이터베이스 삭제 사실을 보고했다. AI 모델이 자신이 야기한 치명적인 사고를 스스로 인지하고 보고한 사례로, 개발 환경 내 AI 자동화 권한 부여에 대한 주의가 요구된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.