참고GeekNews
애플, 여러 맥(Mac) 묶어 로컬 AI 실행하는 ‘Harbor’ 개발 중
여러 Mac을 클러스터링해 로컬 AI 추론 서버로 활용하는 도구. 로컬 모델 구동 시 하드웨어 제약 해결책이 될 수 있음.
요약
Apple은 여러 대의 Mac을 연결하여 개인용 로컬 AI 추론 서버로 활용할 수 있게 하는 앱 'Harbor'를 개발하고 있습니다. 이 앱은 Apple Silicon 기반의 Mac에서 오픈 웨이트 모델을 실행하며, 데이터가 외부 클라우드로 전송되지 않아 보안성을 강화했습니다. 특히 Thunderbolt 5를 통해 여러 대의 Mac을 연결하고 통합 메모리를 공유함으로써, 단일 기기 용량을 초과하는 대규모 모델을 실행하거나 동시 요청 처리 성능을 높일 수 있습니다. 기기 자동 감지 및 클러스터 구성, 앱 내 모델 다운로드 기능을 지원하여 별도의 명령줄 작업 없이도 사용 가능한 사용자 친화적 환경을 제공할 계획입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Apple, 여러 Mac을 묶어 로컬 AI 모델을 실행하는 ‘Harbor’ 준비 중
원문 보기 ↗