중요NVIDIA
NVIDIA, Vera Rubin용 102.4Tbps 이더넷 스위치 'Spectrum-6' 기가스케일 AI 팩토리에 투입
대규모 GPU 클러스터에서 네트워크가 토큰 생성 병목. 이전 대비 대역폭 2배로 인프라 병목 재점검 필요.
요약
NVIDIA는 기가스케일 AI 팩토리를 위한 차세대 이더넷 스위치 시스템인 NVIDIA Spectrum-6를 공개했다. 102.4Tbps의 처리량을 제공하는 Spectrum-6는 이전 세대 대비 2배 향상된 용량을 갖췄으며, 새로운 NVIDIA Vera Rubin 플랫폼의 핵심 구성 요소로 설계되었다. 이 제품은 엔드투엔드 컴퓨팅 시스템으로서 AI 팩토리 운영에 필요한 대역폭과 확장성, 지능을 제공한다. CoreWeave, Microsoft, Nebius, SpaceXAI, Tesla 등 글로벌 주요 AI 인프라 구축 기업들이 Spectrum-6를 도입하여 AI 팩토리 가속화에 나설 예정이다. 클라우드 제공업체는 이를 통해 더 많은 컴퓨팅 자원을 통합된 고성능 리소스로 운영하여 모델 학습 및 추론 서비스 속도를 높일 수 있게 된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Built for Vera Rubin, NVIDIA Spectrum-6 Arrives in Gigascale AI Factories
원문 보기 ↗