참고팁X
GPT-6 Astra: 6단계 노력 수준(effort levels)별 비용 및 토큰 소모량 벤치마크
모델의 노력 수준 설정에 따른 비용과 성능 변화를 구체적 수치로 확인하여 API 비용 최적화에 참고 가능합니다.
요약
X 사용자 @bridgemindai는 GPT 6 Astra를 사용하여 동일한 프롬프트를 6단계 노력 수준(Low, Medium, High, Extra high, Max, Ultra)에 따라 테스트한 결과를 공개했다. 테스트 결과 Low 레벨은 7,923 토큰 사용에 4분이 소요되었고 비용은 0.63달러였으나, Max 레벨은 Low 대비 약 5배 많은 37,241 토큰을 소모하며 20분이 소요되었고 비용은 2.09달러가 발생했다. 각 단계별 소요 시간과 비용은 단계가 높아질수록 증가하는 경향을 보였으나, Ultra 레벨은 27,465 토큰으로 Max 레벨보다 적게 소모되었다. 이번 실험에서 Max 레벨은 가장 많은 리소스를 사용한 만큼 최상의 결과물을 생성한 것으로 나타났다. 전체 테스트 결과와 수준별 출력물은 해당 X 스레드를 통해 확인할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @bridgemindai: Same prompt run through GPT 6 Astra in Codex at all six effort levels. Low: 7,923 tokens, 4 min, $0.63 Medium: 9,085 tokens, 5 min
원문 보기 ↗