LLM 에이전트 메모리 설계: 기존 decay 방식과 인지과학 ACT-R 모델 비교

요약

최근 LLM 개발자 커뮤니티에서는 Generative Agents와 LangChain의 '시간 가중 검색(time-weighted retriever)' 방식인 마지막 접근 시간 기준 감쇠(decay) 모델의 효율성에 대한 논의가 활발합니다. 해당 모델은 단순히 마지막 접근 시간을 기준으로 우선순위를 결정하는데, 이는 10분 전 언급된 정보가 3일 동안 10번 반복된 정보보다 우선시되는 한계를 지닙니다. 반면 카네기 멜론 대학에서 개발한 인지 모델인 ACT-R은 빈도와 최근성을 모두 고려한 기본 활성화 수준과 현재 문맥과의 연관성을 결합하여 기억을 처리합니다. 연구자가 ACT-R의 기억 방정식과 기존 감쇠 방식을 비교 분석한 결과, 실제로는 감쇠 곡선 자체의 형태가 예상보다 모델 성능에 미치는 영향은 적은 것으로 나타났습니다. 이는 향후 LLM의 기억 관리 및 검색 엔진 설계 시 단순한 시간 감쇠 외에 문맥적 연관성 등을 고려한 고도화된 접근이 필요함을 시사합니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.