NVIDIA Vera Rubin 양산 돌입, 와트당 성능·토큰 비용에서 세대 도약

요약

NVIDIA는 기가스케일 성능을 지향하는 차세대 플랫폼 'Vera Rubin NVL72'의 생산을 본격화하며 CoreWeave, Google Cloud, Microsoft Azure, Oracle Cloud Infrastructure 등 파트너사에 공급을 확대하고 있다. Vera Rubin은 7개 칩과 5개 랙 트레이를 단일 시스템으로 통합 설계하여 업계 최고 수준의 와트당 성능과 최저 토큰 비용을 구현했다. 특히 CoreWeave가 DeepSeek-R1으로 진행한 벤치마크 결과, 이전 모델인 Grace Blackwell NVL72 대비 메가와트당 처리량이 10배 향상된 것으로 나타났다. 핵심 부품인 Vera CPU는 맞춤형 Olympus 코어를 탑재해 경쟁 제품 대비 단일 스레드 성능 2배, 코어 간 대역폭 3배, 메모리 지연 시간 40% 감소를 달성했다. 이와 함께 6세대 NVLink를 적용한 네트워킹 기술은 복잡한 워크로드에서 처리량을 2배 이상 높이고 지연 시간을 3배 낮추는 등 AI 팩토리 효율성을 극대화했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.