OpenAI, 다음 주 ChatGPT·Codex 초장문 대화 로딩 성능 대폭 개선 예정
수백 턴 Codex 세션 로딩 94% 단축·메모리 41% 절감. 긴 대화 활용 워크플로우에 체감 개선.
요약
OpenAI가 다음 주 ChatGPT와 Codex의 매우 긴 대화 처리를 위한 대규모 성능 업데이트를 배포할 예정이다. 내부 테스트 결과, 741턴, 231MB 규모의 대화 로드 시간이 기존 27.6초에서 1.66초로 약 94% 단축되었으며 전체 메모리 증가율도 41% 감소했다. 이번 업데이트는 전체 대화 기록을 한 번에 불러오지 않고 필요한 부분만 로드하는 방식의 효율적 최적화를 통해 구현되었다. 이에 따라 장기간 지속된 채팅창을 열거나 스크롤할 때의 끊김 현상이 크게 줄어들고 브라우저 및 앱의 메모리 사용량도 최적화될 전망이다. Codex의 대규모 도구 호출 세션 또한 한층 가벼워져 실무자의 작업 환경이 개선될 것으로 보인다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @TokenGremlin: OpenAI is about to ship a huge performance upgrade for extremely long ChatGPT and Codex conversations next week. In an internal te
원문 보기 ↗