참고X
GPT-6.1(지피티 6.1) Sol 추론 속도 최적화 논란…26 vs 50 tok/s 차이 발생
사용자 간 체감 성능 차이 보고. 설정 혹은 배포 시점 확인이 필요한 이슈.
요약
최근 한 사용자가 X를 통해 Pi 플랫폼에서 GPT-6.1 Sol 모델을 사용할 때의 추론 속도에 대해 의문을 제기했다. Tibo는 해당 모델의 최적화 수준을 50 tok/s까지 끌어올렸다고 언급했으나, 실제 사용자는 26 tok/s의 속도를 경험하고 있다. 사용자는 높은 추론 강도 설정과 Fast Mode 미적용 상태에서 이 같은 결과를 얻었다고 밝혔다. 그는 자신이 설정을 잘못했는지 혹은 업데이트가 아직 배포되지 않은 것인지에 대해 확인을 요청했다. 해당 이슈는 플랫폼의 최적화 업데이트 적용 시점과 실제 사용자 경험 간의 차이를 보여준다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @hqmank: Tibo says they've optimized it to 50 tok/s. I'm getting 26 tok/s with GPT-6.1 Sol in Pi, high reasoning effort, no Fast Mode. Am I
원문 보기 ↗