참고X
Claude(클로드)의 과도한 거부 반응: "사용자 기기 제어 제한은 역효과" 비판 화제
보안·디버깅 작업 시 모델의 지나친 안전 제한이 실사용자의 모델 이탈과 불만을 초래한다는 업계 내 공감대 확산.
요약
최근 AI 모델들이 리버스 엔지니어링 및 악성코드 제거 요청을 거부하는 사례가 증가하며 이에 대한 논란이 일고 있다. X 이용자 AndrewCurran은 이러한 요청이 사이버 보안 가이드라인과 밀접해 표현 방식에 따라 AI의 응답 여부가 달라진다고 지적했다. Reddit 등에서는 Claude가 리프레이징을 통해 여전히 해당 작업을 수행한다는 점이 확인되었으며, OpenAI는 자사 모델 Codex에서 발생하는 유사한 거부 문제를 의도치 않은 결정 경계 문제로 보고 해결 중이다. 전문가들은 이러한 제한이 실효성이 낮고 오히려 사용자의 반발을 사거나 구독 이탈을 유발할 수 있다고 비판하며, 사용자가 자신의 자산에 대해 AI를 자유롭게 활용할 수 있도록 보장해야 한다고 강조했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @AndrewCurran_: Reverse Engineer Anything and removing malware/spyware from your own devices sits so close to the cyber guardrails that phrasing o
원문 보기 ↗