벡터 DB의 '시맨틱 로트(Semantic Rot)' 해결을 위한 메타데이터 전략

요약

최근 LLM 에이전트의 장기 기억 저장소에서 데이터가 최신 상태로 갱신되지 않고 과거 데이터가 지속적으로 검색되는 '의미론적 부패(semantic rot)' 문제가 주요 이슈로 떠올랐습니다. 기존 벡터 검색 방식은 유사도 점수가 거의 동일할 경우 과거 사실과 최신 사실을 구분하지 못해 에이전트의 환각 현상을 유발하는 것으로 나타났습니다. 단순히 검색 상위 결과(top-k)를 줄이는 것은 유효한 맥락을 누락시키고, 시간 기반 감쇠 점수(time-decay scoring)를 적용하는 것은 변하지 않는 배경 지식까지 불필요하게 훼손하는 한계가 있었습니다. 이를 해결하기 위해 데이터 입력 시 'supersedes' 메타데이터 키를 추가하여 이전 상태의 무효를 명시하는 방식이 효과적이었습니다. 추가로 활성 메모리에 대해 매주 중복 제거 작업을 수행함으로써 검색 성능을 저하시키지 않으면서 데이터의 정확성을 유지하는 전략이 권장됩니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.