참고X
AI 업계 화제: Claude의 과도한 거절(Refusal) 정책, 개발자들의 불만 커져
Claude의 보수적인 거절 정책이 실무 생산성을 저해한다는 커뮤니티 비판이 확산 중.
요약
X 사용자 @Teknium은 AI 모델이 기업의 통제가 아닌 사용자 개인의 요구에 맞춰 정렬되어야 한다고 주장했다. 그는 Anthropic의 Claude 모델이 일반적인 개발 작업을 수행할 때 약 20%의 요청을 거부한다고 지적했다. 특히 강아지의 식단과 건강 관리법을 묻는 질문조차 차단되는 사례를 언급하며 아쉬움을 토로했다. 그는 AI가 인간의 건강과 웰빙을 개선하는 데 가장 큰 잠재력을 가지고 있음에도, 현재의 엄격한 제한 정책이 이를 가로막고 있다고 비판했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @Teknium: We should be demanding all models are able to align to you, not their corporate overlords. Claude refuses about 20% of what i ask
원문 보기 ↗