참고팁Simon Willison
CLI 도구 'llm'용 디버그 플러그인 'llm-echo 0.5' 출시
프롬프트 토큰 사용량 측정(도구 호출, 추론 토큰 포함)을 시뮬레이션할 수 있어 LLM 개발 및 테스트 시 유용함.
요약
LLM CLI 도구의 디버깅 플러그인인 llm-echo가 버전 0.5로 업데이트되었다. llm-echo는 실제 LLM 모델을 호출하지 않고 입력된 프롬프트를 그대로 반환하여 개발자가 연동 테스트를 수행할 수 있게 돕는 도구다. 이번 업데이트에서는 시뮬레이션된 토큰 사용량 계산 방식이 개선되었다. 새 버전은 도구 호출(tool calls), 시스템 프롬프트, 추론 토큰(reasoning tokens)을 토큰 계산에 반영한다. 이를 통해 사용자들은 더욱 정확한 토큰 사용량 예측과 디버깅 테스트를 진행할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 llm-echo 0.5
원문 보기 ↗