참고X
GPT-6(지피티 6) Astra 및 Sol 모델, API 속도 50% 향상 확인
OpenAI(오픈AI) API 속도가 개선되어 실시간 응답 기반 서비스의 레이턴시 최적화에 도움이 될 것으로 보임.
요약
X(구 트위터) 사용자 @hqmank에 따르면, OpenAI의 모델인 GPT-6 Astra와 GPT-6.1 Sol의 추론 속도가 약 50% 향상되었습니다. 실제 테스트 결과 기존 20 tok/s에서 30 tok/s로 속도가 개선된 것이 확인되었습니다. 하지만 이러한 성능 향상에도 불구하고 경쟁 모델인 Claude Opus는 약 80 tok/s, Sonnet은 약 100 tok/s의 속도를 기록하고 있습니다. 지난주 대비 속도는 빨라졌으나 여전히 실사용 측면에서는 상대적으로 느린 수준입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @hqmank: Tibo says GPT-6 Astra and GPT-6.1 Sol got ~50% faster. I tested it: 20 tok/s → 30 tok/s. The +50% is real. But Claude Opus runs ar
원문 보기 ↗