참고X
Mac Studio M5 Ultra vs DGX Spark 성능 벤치마크 결과
로컬 추론 환경 구성 시 비용 대비 처리량 측면에서 유의미한 하드웨어 데이터.
요약
X(구 트위터)의 @jun_song은 Mac Studio M5 Ultra 256GB 모델과 2대의 NVIDIA DGX Spark 시스템을 비교 분석한 결과를 공개했다. 가격 면에서 Mac Studio M5 Ultra는 10,799달러, 2x DGX Spark는 10,000달러로 나타났다. 인공지능 모델의 프리필(Prefill) 성능은 두 시스템이 거의 대등한 수준으로 예상된다. 그러나 디코드(Decode) 성능에서 Mac Studio M5 Ultra는 1,200GB/s를 기록하며, 273GB/s에 그친 DGX Spark 대비 압도적인 우위를 보였다. 이러한 성능 지표를 종합할 때 가성비 측면에서 Mac Studio가 더 우수한 선택이라는 평가가 제시되었다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @jun_song: Mac Studio M5 Ultra 256gb vs 2xDGX Spark Price : $10,799 vs $10,000 Prefill : almost tie (expected) Decode : 1,200GB/s vs 273GB/s
원문 보기 ↗