중요X
NVIDIA Blackwell Ultra, DeepSeek-V3 671B 사전학습 세계 기록 달성
GPU당 1,648 TFLOPs로 이전 세대 대비 3배. 대규모 모델 학습 인프라 비용·기간 산정 시 참고.
요약
NVIDIA Blackwell Ultra가 DeepSeek-V3 671B 사전 학습에서 GPU당 1,648 TFLOPs를 기록하며 세계 신기록을 달성했습니다. 이는 이전 세대 대비 약 3배 향상된 성능입니다. 이번 성과는 하드웨어와 소프트웨어의 긴밀한 공동 설계 덕분입니다. NVIDIA는 Megatron-Core, TorchTitan, JAX 등 주요 프레임워크 전반에 걸친 지속적인 소프트웨어 최적화가 주효했다고 밝혔습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @NVIDIAAI: NVIDIA Blackwell Ultra just set a world record for pre-training DeepSeek-V3 671B, achieving 1,648 TFLOPs per GPU. This is about 3x
원문 보기 ↗