중요팁X
OpenAI(오픈AI), 비동기 배치 응답으로 GPT-6.2(지피티 6.2) 토큰 비용 40% 절감 옵션 공개 베타
Responses API에서 2h·8h 응답 지연 허용 시 최대 40% 절감. 비실시간 배치 작업부터 전환 검토.
요약
OpenAI가 즉각적인 응답이 필요 없는 워크플로우를 위해 'Responses API'의 백그라운드 모드를 공개 베타로 출시했다. GPT-6.2 Astra 또는 GPT-6.2 Sol 모델을 사용하는 단일 및 다중 턴 워크플로우에서 이 기능을 활용하면 표준 모델 대비 토큰당 비용을 최대 40%까지 절감할 수 있다. 사용자는 백그라운드 모드에서 첫 번째 응답이 생성되기까지 2시간 또는 8시간 중 원하는 처리 시간을 선택할 수 있다. 이번 업데이트는 실시간 처리가 필수가 아닌 작업의 운영 효율성을 높이고 API 호출 비용을 최적화하는 데 도움을 줄 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @OpenAIDevs: Not every workflow requires an immediate response. For single- or multi-turn workflows that can wait, save up to 40% per token tha
원문 보기 ↗