LLM 비용 산정 도구 제작기: '계산은 코드로, 판단은 LLM으로'

요약

Claude Code를 활용해 앱 운영 비용을 100명에서 10만 명 규모까지 추정하는 도구 'vibe-bill'을 개발한 사례가 공유되었다. LLM은 코드 이해 능력은 뛰어나지만 비용 산출의 일관성이 부족하다는 한계를 보여, 계산 과정에서 LLM의 직접적인 개입을 배제하는 방식을 채택했다. 구체적으로 Claude는 코드베이스를 읽고 AI 호출 기능, 사용 모델, 트리거, 입출력 크기 등 데이터만 추출하는 역할을 수행한다. 실제 비용 계산은 추출된 데이터를 바탕으로 별도의 일반 스크립트가 고정된 가격표를 참조하여 수행하도록 분리하였다. 이러한 구조를 통해 동일한 코드에 대해 항상 일관된 비용 산출 결과를 도출할 수 있게 되었다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.