LLM 판단을 배제한 결정론적 로컬 에이전트 메모리 'OMEM' 공개

요약

최근 Reddit의 r/LLMDevs에서 외부 호스팅이나 LLM의 판단 없이 완전히 로컬 환경에서 작동하는 에이전트 메모리 도구 'OMEM'이 주목받고 있다. 기존 메모리 도구들은 사실 관계 판단을 LLM에 의존하여 답변의 일관성이 떨어지는 문제를 안고 있었으나, OMEM은 결정론적 엔진을 통해 이를 해결했다. OMEM은 텍스트가 아닌 '믿음(beliefs)'을 저장하며, 동일한 입력값에 대해 항상 동일한 결과를 도출한다. 두 사실이 충돌할 경우 기존 데이터를 덮어쓰지 않고 두 주장을 모두 보존한 뒤 'contradicted' 상태로 표시한다. 또한 사용자는 특정 사실이 왜 믿음으로 간주되는지에 대한 추론 과정을 확인할 수 있으며, X와 not:X와 같은 상반된 주장은 자동으로 감지된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.