OpenAI, GPT-5.6 Sol로 자체 운영 효율화: 서빙 비용 20% 절감·토큰 생성 효율 15%↑

요약

OpenAI가 배포 이후 GPT-5.6 Sol 모델을 적용하여 운영 효율성을 크게 개선했다고 발표했다. 이번 최적화 작업의 결과로 프로덕션 GPU 커널 개선을 통해 서빙 비용을 20% 절감했다. 또한, 향상된 추론 기법인 speculative decoding을 도입하여 토큰 생성 효율을 15% 이상 높이는 성과를 거두었다. OpenAI는 모델 스스로를 더 효율적으로 구동하게 만드는 방식으로 기술적 한계를 확장하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.