16x GB10 GPU 클러스터 로컬 구축 사례

요약

한 Reddit 사용자가 16개의 Asus GX10으로 구성된 DGX Spark 클러스터 구축 사례를 공개했다. 이 클러스터는 400Gbps에서 100Gbps로 연결되는 4개의 브레이크아웃 케이블을 갖춘 Mikrotik CRS804-4DDQ 스위치로 네트워크가 구성되었다. 사용자는 이를 통해 Deepseek V4 Pro, Kimi K3, 향후 출시될 GLM 5.5 및 Minimax M4와 같은 최첨단 오픈 모델을 로컬 환경에서 구동할 계획이다. 현재 8개씩 클러스터를 나누어 두 개의 모델을 동시에 운영하거나, 필요에 따라 2T 파라미터 이상의 거대 모델을 처리할 수 있는 유연한 환경을 구축하는 것을 목표로 한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.