← promppy_ 실시간 AI 뉴스
참고X

중국 Zai, 엔비디아 없이 독자 AI 스택으로 'Ox-Alpha' 모델 42조 토큰 처리 성공

중국산 칩 클러스터와 자체 최적화 엔진을 통해 엔비디아 의존 없이 대규모 추론 성능을 입증한 사례로, 향후 인프라 및 로컬 에이전트 서빙 전략에 시사점이 큽니다.

요약

중국의 AI 기업 자이(Zai)가 국산 칩만을 사용하여 'Ox-Alpha(GLM 3.5 Flash)' 모델로 6일간 42조 토큰을 처리하는 성과를 달성했다. 자이는 엔비디아 GPU를 전혀 사용하지 않는 1만 개 이상의 칩 클러스터와 1GW 규모의 데이터 센터를 구축하여 독자적인 AI 인프라를 완성했다. 이들은 자체 추론 엔진인 SGLang을 설계하고, GLM-5.3 인프라 에이전트가 직접 GPU 커널을 작성 및 병목 현상을 해결하도록 하여 엔드투엔드 성능을 3배 향상했다. 이를 통해 중국 기업은 미국의 수출 통제에도 불구하고 엔비디아 수준의 비용 효율성과 성능을 국산 실리콘으로 구현해냈다. 이번 사례는 중국이 독자적인 AI 기술 스택 구축을 통해 컴퓨팅 자원 제약에서 벗어났음을 시사한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.

원문 제목 @bindureddy: 🚨 China's Big Bang Chips Launch - Ox-Alpha's 100T Token Capacity Mystery Solved Ox-Alpha (GLM 3.5 Flash) served 42 trillion token

원문 보기 ↗
다음 뉴스 →

중요AI 개인비서 스타트업 'Instinct', 3.5억 달러 유치…기업가치 25억 달러

창업 1년·23세 창업자에 25억 달러. 개인 생활관리형 에이전트에 투자 몰리는 신호.

promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.

15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공

실시간 피드 보기 →RSS 구독

관련 뉴스

최신 뉴스