참고X
NVIDIA Vera Rubin, Blackwell 대비 DeepSeek-R1 추론 전력 효율 10배 향상
CoreWeave 실측 데이터로, 차세대 서버 도입 시 전성비와 토큰 비용 절감 효과를 가늠할 수 있음.
요약
NVIDIA가 차세대 아키텍처 기반인 NVIDIA Vera Rubin NVL72의 초기 성능 측정 결과를 공개했다. 클라우드 제공업체인 CoreWeave가 측정한 데이터에 따르면, 이 시스템은 DeepSeek-R1 모델 구동 시 기존 Blackwell 아키텍처 대비 메가와트당 토큰 처리량에서 10배의 효율 향상을 기록했다. 이는 동일 전력 소비 기준 AI 추론 성능이 비약적으로 개선되었음을 시사한다. 이번 성과는 대규모 AI 모델 운영에 필요한 에너지 효율성을 극적으로 높일 수 있는 가능성을 보여준다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @nvidia: 10x more tokens per megawatt. CoreWeave has the first measured performance of NVIDIA Vera Rubin NVL72, showing 10x improvement in
원문 보기 ↗