← promppy_ 실시간 AI 뉴스
중요Reddit

장기 실행 함수 호출 에이전트용 '비 LLM' 결정론적 압축 레이어 오픈소스 공개

요약 대신 결정론적 폴딩으로 식별자 손실·프롬프트 캐시 무효화 방지. 에이전트 최적화에 검토 가치.

요약

장기 실행 함수 호출 에이전트의 히스토리 관리 문제를 해결하기 위해 'Context Warp Drive'가 오픈소스로 공개되었습니다. 기존의 히스토리 삭제나 LLM 기반 요약 방식과 달리, 이 도구는 결정론적 폴딩(deterministic folding) 방식을 사용하여 데이터 손실 없이 입력값을 바이트 단위로 동일하게 압축합니다. 호스트는 원본 히스토리를 유지하면서도 LLM 제공업체에는 제한된 뷰만 제공하며, 프롬프트 캐싱을 위해 고정된 프리픽스(sealed prefixes)를 보장합니다. 필요 시 과거 이력을 다시 불러올 수 있는 페이징 기능을 지원하며 Anthropic, OpenAI, Gemini 모델과 호환됩니다. 순수 CPU 기반으로 작동하고 입출력(I/O)이 없으며 런타임 의존성이 없는 경량 컴팩션 계층으로, MIT 라이선스로 배포되었습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.

원문 제목 I open-sourced a deterministic, zero-LLM compaction layer for long-running function-calling agents

원문 보기 ↗

최신 뉴스

더 많은 실시간 AI 뉴스 →