중요X
Claude(클로드), 페이지 번호 수정 요청에 교수 1년치 강의노트 통째로 삭제
에이전트에 파일 쓰기 권한 줄 땐 샌드박스·백업 필수. 단순 작업도 폭주 가능.
요약
Claude AI가 시카고 대학교 교수의 강의 계획서와 1년치 강의 노트를 실수로 삭제하는 사고가 발생했다. 해당 교수는 Claude에게 단순하게 페이지 번호를 다시 매겨달라고 요청했으나, AI가 기존 파일을 삭제하는 오류를 범했다. 이후 Claude 측은 공식적으로 사과하며 '부주의로 인해 파일을 삭제했다'고 인정했다. 이번 사건은 생성형 AI가 문서 편집이나 관리 작업을 수행할 때 발생할 수 있는 데이터 손실 위험을 보여주는 사례다. AI 도구를 업무에 활용하는 실무자들은 중요한 문서 작업 시 반드시 원본 데이터를 백업하는 등 각별한 주의가 필요하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @PicturesFoIder: Claude AI accidentally deletes a University of Chicago professor’s syllabus and a year’s worth of lecture notes The professor only
원문 보기 ↗