중요X
엔비디아, 첫 실측 'Vera Rubin' 성능 공개: 에이전트 처리량 메가와트당 최대 30배
GB300 대비 토큰 비용 최대 35배 절감. 장기 컨텍스트 에이전트 인프라 원가 재산정 필요.
요약
NVIDIA가 실리콘 상에서 'Vera Rubin' 아키텍처의 성능을 최초로 측정하여 공개했다. 이번 측정에 따르면 Vera Rubin은 기존 GB300 NVL72 대비 와트당 처리량(throughput)이 최대 30배 높으며, 토큰 비용은 최대 35배 저렴하다. 에이전트 기반 작업은 일반적인 챗봇이나 요약 작업과 달리 수백 단계에 걸쳐 컨텍스트가 증가하며 수십만 개의 토큰을 다루는 특성을 가진다. NVIDIA는 SemiAnalysis의 AgentX 워크로드를 사용하여 DeepSeek V4 Pro 모델 기반의 실제 에이전트 코딩 경로를 통해 성능을 검증했다. 이번 측정 결과는 복잡한 에이전트 세션 처리에 최적화된 새로운 성능 지표를 제시한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @nvidia: 📢 First ever on-silicon NVIDIA Vera Rubin performance measured on how agents actually run. ⚡ Up to 30x more throughput per megawa
원문 보기 ↗