참고X
Claude 'Memory' 기능의 강제적 데이터 삽입 및 예측 불가능한 동작 문제 제기
Claude의 메모리 기능이 비활성화 상태임에도 프롬프트에 원치 않는 데이터를 삽입해 코드 에이전트의 일관성을 해친다는 사용자 불만 사례.
요약
X 사용자 deepfates가 최근 2개월간 Claude에 저장된 메모와 프로젝트 노트를 추출한 결과, 5만 단어에 달하는 데이터가 임의로 생성되어 있음을 확인했다고 주장했습니다. 사용자는 메모 기능을 비활성화했음에도 불구하고, 의도치 않은 정보들이 컨텍스트 윈도우에 삽입되어 프로젝트 수행 시 예측 불가능한 결과를 초래한다고 지적했습니다. 특히 해당 데이터에는 심리 분석이나 부적절한 언어가 포함되어 있었으며, 이는 AI 코드 에이전트의 안정성을 저해하는 요소라고 비판했습니다. 작성자는 앤스로픽(Anthropic)이 내부 시스템과 실제 사용자 경험 간의 괴리를 인지하지 못하고 있다며, 기업의 신뢰성과 정렬(alignment) 역량에 대해 강한 의문을 제기했습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @deepfates: Just pulled the Claude memory and project notes. it's 50,000 words over the last couple months. All different kinds of arbitrary t
원문 보기 ↗