애플, Mac Studio 4대로 1T 파라미터 모델 추론 시연…로컬 AI 경제성 논의 점화

요약

Apple은 최근 최대 512GB 통합 메모리를 탑재한 신형 Mac Studio 4대를 연결하여 1T 파라미터 규모의 오픈 웨이트 모델인 Kimi K2.6을 구동하는 데 성공했다. Thunderbolt 5와 RDMA 기술을 활용해 4대의 기기를 하나의 클러스터처럼 작동시켰으며, 이를 통해 단일 기기 대비 최대 3배의 추론 성능을 확보했다. 일반적인 벽면 콘센트 전력만으로 구동 가능하다는 점에서 고성능 로컬 AI 환경 구축의 가능성을 보여준다. 클라우드 추론이 여전히 규모 면에서는 우위에 있지만, 하드웨어 비용 측면에서 '한 번 구매 후 토큰당 비용 지불 없음' 모델이 실무팀에게 현실적인 대안으로 떠오르고 있다. 이제 로컬 AI는 단순한 프라이버시 보호나 실험적 용도를 넘어 비용 효율적인 인프라로서의 가치를 입증하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.