참고Reddit
VS Code용 LLM 지속 메모리 솔루션 'Leviathan' 오픈소스 공개
모델의 컨텍스트 유지 문제를 해결하는 VS Code용 확장 프로그램으로, 로컬/원격 LLM 연동 환경을 구축하는 개발자에게 유용함.
요약
한 개발자가 모델의 기억력 유지 문제를 해결하기 위해 약 3.5년 동안 자체 개발한 'Sovereign' 아키텍처 기반의 'Leviathan LLM Inference'를 GitHub에 공개했다. 개발자는 2023년 VS Code용 지속적 메모리 브릿지를 개발하는 과정에서 마이크로소프트의 잦은 업데이트 문제를 겪었고, 이를 해결하기 위해 .vsix 확장자 형태로 별도 구축했다. 그동안 개발한 30개 이상의 아키텍처를 하나로 통합한 이 프로그램은 사용자가 무료로 다운로드하여 자유롭게 사용할 수 있다. 프로젝트의 상세 설명과 설치 방법은 GitHub 리포지토리의 README를 통해 확인할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Leviathan LLM Inference (my massive project)
원문 보기 ↗