중요NVIDIA
NVIDIA(엔비디아), MLPerf 석권…차세대 Vera Rubin, 에이전트 추론서 와트당 10배 성능
에이전트 AI 와트당 처리량 10배 개선. GPU 인프라 TCO·전력 설계 재검토 가치 있음.
요약
NVIDIA의 차세대 플랫폼인 Vera Rubin이 MLPerf Training v6.1 벤치마크 전 부문에서 1위 성적을 거두며 성공적인 데뷔를 마쳤다. 첫 참가한 MLPerf Endpoints에서 Vera Rubin은 에이전트형 AI를 위한 전력 효율성 지표인 와트당 처리량에서 이전 세대 대비 10배 이상의 성능 향상을 기록했다. 또한 Vera Rubin NVL72 시스템은 기존 최적화 모델인 GB300 NVL72 대비 GPU당 최대 2배 높은 성능을 보여주었다. 이번 결과는 LLM, 이미지 생성, 추천 시스템 등 다양한 AI 모델 학습 분야를 아우르는 성과로, 향후 CUDA 소프트웨어 스택 최적화를 통해 성능은 더욱 개선될 전망이다. NVIDIA는 빠른 학습 속도가 에이전트 성능 강화는 물론 신약 개발 및 이상 탐지 모델의 실시간 대응력을 높이는 데 핵심적인 역할을 할 것이라고 강조했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance
원문 보기 ↗