참고X
NVIDIA, 에이전트 워크로드 기반 인프라 성능 측정 도구 'AgentX' 소개
에이전트 구동 효율을 기준으로 인프라 성능을 측정하는 새 벤치마크. 에이전트 최적화 관심 시 참고.
요약
NVIDIA가 에이전트 구동 방식에 최적화된 AI 인프라 성능 측정 기준을 제시했다. 이를 위해 SemiAnalysis는 새로운 벤치마크 워크로드인 AgentX를 개발하여 실제 AI 에이전트 실행 환경에서의 성능을 평가한다. NVIDIA가 AgentX를 사용하여 Vera Rubin NVL72의 성능을 측정한 결과, 기존 GB200 NVL72 대비 메가와트당 처리량(throughput)이 최대 30배 향상된 것으로 나타났다. 이번 벤치마크는 단순 연산 성능을 넘어 실질적인 에이전트 운영 효율성을 중점적으로 측정하는 데 초점을 맞췄다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @nvidia: Are you measuring AI infrastructure performance on how agents actually run? @SemiAnalysis_ built AgentX to do just that. Vera Rubi
원문 보기 ↗