NVIDIA, NVLink Fusion에 커스텀 HBM 'NVHBM' 추가…대역폭 30%↑·전력 15%↓

요약

NVIDIA는 차세대 AI 인프라 구축을 지원하기 위해 NVLink Fusion을 확장하고 맞춤형 고대역폭 메모리 기술인 NVHBM을 새롭게 발표했다. 기존 HBM은 메모리 컨트롤러가 XPU 다이에 위치해 공간 효율이 낮았으나, NVHBM은 이를 3D HBM 스택 베이스 다이에 통합하여 설계했다. 이 방식을 통해 표준 HBM4E 대비 메모리 대역폭은 최대 30% 향상되고, HBM 전력 소비는 15% 감소하며 XPU 연산 다이 면적을 최대 25%까지 확보할 수 있다. NVIDIA는 여러 메모리 파트너를 통해 NVHBM 표준 구현을 제공함으로써, 고객사가 다양한 공급업체의 메모리를 통합하고 검증하는 엔지니어링 비용을 줄이도록 지원한다. 이번 기술은 AI 에이전트와 조 단위 파라미터 워크로드 처리에 필요한 연산, 메모리, 네트워킹의 통합 최적화를 가속화할 전망이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.