참고팁Reddit
프롬프트 토큰 효율화 팁: 공백 제거와 중복 규칙 삭제만으로 입력 토큰 20~30% 절감
불필요한 공백과 중복 지시사항 제거만으로 토큰 비용을 직접적으로 낮출 수 있는 구체적인 방법론을 제시함.
요약
Reddit의 한 사용자가 프롬프트 엔지니어링 과정에서 토큰 낭비를 분석한 결과, 프롬프트 문구 자체보다 기계적인 요소가 비용을 크게 증가시키는 것으로 나타났다. 주요 낭비 원인은 들여쓰기가 포함된 Pretty-printed JSON 스키마, 반복적으로 작성된 규칙, 'Please'나 'Thanks' 같은 정중한 표현 등이다. 이러한 불필요한 요소를 제거하자 GPT-4o 입력 토큰이 영어는 20.6%, 페르시아어는 26.0%, 중국어는 30.8%까지 절감되었다. 834 토큰 규모의 예시 프롬프트에서는 호출 100만 회당 약 422달러의 비용 절감 효과가 확인됐다. 작성자는 이러한 낭비를 자동으로 감지하고 토큰 및 비용 절감액을 보여주는 오프라인 CLI 도구를 개발하여 프롬프트 최적화를 지원하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 I measured what my prompts were wasting. Most of it wasn't the wording.
원문 보기 ↗