← promppy_ 실시간 AI 뉴스
참고팁ZDNet Korea

토큰 단가 하락에도 AI 비용이 급증하는 이유와 비용 최적화 전략

AI 에이전트 도입으로 사용량 폭증. 모델 라우팅 및 '토큰 대비 가치(ROT)' 지표로 비용 효율을 관리해야 함.

요약

AI 토큰 단가는 하락하는 추세지만, 업무 난이도에 상관없이 사용량이 폭발적으로 증가하며 기업의 실제 AI 지출 비용은 오히려 상승하고 있다. 최근 오픈AI의 GPT-6 Sol API 가격이 50% 인하되었음에도, AI 에이전트 확산으로 인해 시타델 시큐리티즈 등 기업들의 토큰 처리량은 약 5배 급증했다. 이에 대한 대응책으로 AT&T는 복잡도에 따라 모델을 선택하는 '모델 라우팅'을 도입해 비용을 최대 90% 절감했으며, 카페24 역시 LLM 라우터 기술을 통해 효율성을 높이고 있다. 강정수 블루닷에이아이 센터장은 단순히 토큰 사용량을 늘리는 것이 아니라 '토큰 대비 가치(ROT)'를 기준으로 성과를 측정해야 한다고 제언했다. 결과적으로 기업들은 'AI 사용량' 중심의 지표에서 벗어나, 민틀리파이와 같이 작업 성공 기반의 과금 모델을 도입하거나 SK텔레콤의 AX 혁신 사례처럼 AI 업무 효율을 극대화하는 전략적 접근이 필요하다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.

원문 제목 "토큰값 반값인데 AI 청구서는 더 커졌다"

원문 보기 ↗

광고

promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.

15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공

실시간 피드 보기 →RSS 구독

관련 뉴스