참고Reddit
Claude(클로드) 안전 필터, 사용자 코드 보안 패치까지 차단하는 사례 보고
자신의 코드 내 보안 취약점(IDOR)을 수정하려 해도 모델의 안전 가이드라인 때문에 답변이 거부되는 현상.
요약
한 개발자가 자신의 SaaS 코드를 리팩토링하던 중 Claude Opus 5.5가 IDOR(불안전한 직접 객체 참조) 보안 취약점을 스스로 발견했으나, 수정 코드를 작성하려는 순간 보안 필터에 걸려 거부당하는 사례가 보고되었습니다. 해당 개발자는 자신이 매월 200달러를 지불하며 접근 권한을 부여한 코드베이스 내의 문제임에도 불구하고, Claude가 수정 요청을 거절했다고 밝혔습니다. 새로운 대화창에서 다시 요청하거나 GPT-6 Astra에게 동일한 문제를 문의했음에도 모두 거절당하며 수정 코드를 얻지 못했습니다. 이는 AI 모델의 과도한 보안 필터가 실제 개발 환경에서의 정상적인 코드 수정이나 디버깅 작업을 방해하고 있음을 시사합니다. 이번 사례는 AI 도구를 활용한 보안 취약점 점검 및 코드 수정 과정에서 예상치 못한 제약이 발생할 수 있음을 보여줍니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Claude found a security hole in my app and then refused to fix it
원문 보기 ↗