Ollama(올라마) Cloud에서 500K 컨텍스트 이상 시 타임아웃 발생

요약

최근 Ollama Cloud Max(구 레거시 버전) 이용자들 사이에서 'timeout waiting for response header' 오류가 빈번하게 발생하고 있다. 특히 Glm 5.3 모델 사용 시 이러한 현상이 두드러지게 나타나고 있다. 문제의 주요 원인은 컨텍스트 길이가 500K를 넘어가거나 캐시가 만료된 상황으로 파악된다. 해당 환경에서 서비스 이용이 거의 불가능한 수준이라며 사용자들의 불편이 제기되고 있다. 현재 유사한 환경에서 동일한 문제를 겪는 사례가 늘어나며 사용자들의 대응이 필요한 시점이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.