참고팁Hacker News
Claude 5의 토큰 출력 오류 해결책: 로컬 LLM 필터링 도구 'Vomit' 공개
Claude 5의 비정상 토큰 출력을 로컬 LLM으로 정제하는 도구. 로컬 LLM 운용 개발자에게 유용한 워크플로우.
요약
Vomit은 Claude 모델이 생성하는 이른바 '토큰 구토(token vomit)' 현상을 해결하기 위해 개발된 로컬 도구입니다. 이 도구는 Claude의 출력을 로컬 LLM으로 전달하여 읽기 쉬운 영어로 변환하는 방식을 사용합니다. 완전한 로컬 환경에서 작동하여 원격 측정(telemetry) 데이터를 수집하지 않으며, 외부 의존성이 없습니다. 사용자는 별도의 '비침습적(non-invasive)' 모드를 통해 사이드카 형태로 실행할 수 있습니다. 로컬 LLM이 없는 경우 Llama.app을 사용하여 GPT-OSS 20B 모델을 다운로드한 후 init 하위 명령어를 실행하는 방식을 권장합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Clean up Claude 5's token vomit with a separate LLM
원문 보기 ↗