참고팁Reddit
자동 메모리 대신 직접 제어 가능한 'ThoughtDAG' 메모리 구조
LLM 컨텍스트를 사용자 편집 가능한 그래프로 관리하여 자동화의 불투명성을 해결하는 실험적 설계입니다.
요약
최근 LLM 개발자 커뮤니티에서 LLM의 컨텍스트를 자동 메모리 레이어 대신 사용자가 직접 편집 가능한 DAG(Directed Acyclic Graph) 형태로 구현하는 'ThoughtDAG' 프로젝트가 주목받고 있다. 기존의 자동화된 검색 방식과 달리 모든 문답 교환을 노드로 시각화하고, 노드 간 연결(edge)을 사용자가 직접 삭제하면 해당 내용이 즉시 프롬프트 컨텍스트에서 제외되는 구조다. 개발자는 사용자가 컨텍스트 선택 과정을 완전히 제어할 수 있도록 자동화된 은닉 레이어 도입을 배제하고 있다. 다만 편의성을 위해 소형 라우터 모델이 관련성 높은 에지를 제안하되, 사용자가 최종적으로 이를 확인 및 수정하는 방식의 타협안을 검토 중이다. 이는 AI 모델이 스스로 컨텍스트를 관리하는 방식에서 벗어나, 사용자가 AI의 기억을 명시적으로 관리하고 통제하는 새로운 접근 방식을 제시한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 I made LLM context a user-editable DAG instead of an automatic memory layer
원문 보기 ↗