작업당 비용 치솟자 토큰 관리 도구로 눈 돌리는 SWE 팀들

요약

최근 공개된 Fable 5.2 Intelligence Benchmark의 토큰 비용은 입력 100만 토큰당 8달러, 출력 100만 토큰당 40달러로 책정되었다. 캐시 읽기 토큰 비용은 100만 토큰당 0.2달러 수준이며, 컨텍스트 윈도우는 100만 토큰, 최대 출력은 12만 8,000토큰을 지원한다. 높은 작업당 비용 문제로 인해 일부 기업에서는 Airctrl이나 Paloaltonetworks 같은 솔루션을 도입하여 개발팀의 토큰 사용량을 관리하고 있다. 현재 성능 면에서는 Claude가 여전히 업계 최고 수준으로 평가받지만, 비용 부담으로 인해 사용량을 줄이는 추세다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.