참고팁X
GPT-6 Astra Ultra를 활용한 볼 트래킹: 에이전트 워크플로우 토큰 소비 분석
에이전트 구현 시 캐시된 컨텍스트와 실제 입력 토큰 소비량을 실증한 사례. 토큰 비용 최적화 설계 시 참고.
요약
LearnOpenCV가 GPT-6 Astra Ultra를 활용해 테니스공 추적을 수행한 결과와 비용 데이터를 공개했다. 실험 결과 테니스공 어노테이션 작업에 3개의 병렬 에이전트를 사용하여 8분 35초 동안 17,611개의 토큰이 소모되었다. 전체 워크플로우를 완료하는 데는 11분 49초가 소요되었으며 총 30,481개의 토큰이 사용되었다. 이 과정에서 313,914개의 캐시되지 않은 입력 토큰과 7,528,320개의 캐시된 입력 토큰을 포함해 총 787만 개의 토큰이 처리되었다. 대부분의 토큰은 프레임 검사 호출 과정에서 컨텍스트 재사용을 통해 소비된 것으로 분석된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @LearnOpenCV: I used GPT-6 Astra Ultra to track a tennis ball. The results are impressive until I tell you the following. Ball annotation, using
원문 보기 ↗