참고Reddit
코드베이스 내 LLM 호출 탐지 및 비용 분석 도구 'PromptScan' 공개
코드 실행 전 프롬프트 비용 추산 및 미사용 호출 탐색을 자동화하는 CLI 도구. 관리 포인트 최적화에 활용 가능.
요약
개발자가 코드 실행 전 LLM 프롬프트 비용과 미사용 프롬프트를 추적할 수 있는 CLI 도구 'PromptScan'을 개발했다. 기존 모니터링 도구인 LangSmith나 Helicone은 실행 후에만 비용 확인이 가능하고 방치된 프롬프트를 식별하기 어렵다는 한계가 있었다. PromptScan은 코드베이스를 분석하여 OpenAI, Anthropic, LangChain 호출을 자동으로 찾아낸다. 이를 통해 배포 전 프롬프트 비용을 미리 예측하고 레포지토리에 남아있는 불필요한 코드를 정리할 수 있다. 개발자는 현재 이 도구의 실용성에 대한 커뮤니티 피드백을 구하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Hey guys, I built a CLI that finds what your LLM prompts cost and which ones are dead without running your code
원문 보기 ↗