참고X
AI 메모리 기능의 과도한 컨텍스트 반영에 대한 피로감
LLM 메모리 기능이 사적인 정보에 과도하게 의존해 대화 맥락을 망치는 현상에 대한 커뮤니티 내 공감.
요약
Claude, Gemini, ChatGPT 등 AI 모델에 탑재된 '메모리' 기능이 사용자에 대한 개인적인 정보를 과도하게 반영하여 대화의 맥락을 방해한다는 지적이 제기되었습니다. X 사용자 @staysaasy는 AI가 과거의 사소한 대화 내용을 부적절한 시점에 불필요하게 언급하는 상황을 비판했습니다. 예를 들어, 회계 규칙에 대해 질문할 때 AI가 사용자의 운동 취미를 비유로 들어 답변하는 등의 불편함이 발생하고 있습니다. 이는 마치 한 번 언급한 정보를 반복적으로 꺼내는 어색한 동료와 대화하는 것과 유사하다는 의견입니다. AI의 개인화 기능이 효율성을 높이기보다는 오히려 업무적 대화의 흐름을 방해하는 사례로 주목받고 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @staysaasy: One thing I hate about Claude/gemini/chatgpt with memory turned on is that it heavily over indexes on the stuff it knows about me.
원문 보기 ↗