중요팁The Verge
NVIDIA, 유휴 PC를 연결해 개인 AI 클러스터 만드는 무료 툴 'PAIR' 오픈소스 출시
RTX 20 이상·M4 맥까지 연결해 Ollama·LM Studio 추론 분산 가능. 로컬 LLM 자원 부족 팀이라면 검토 가치.
요약
Nvidia가 유휴 컴퓨터들을 연결하여 로컬 AI 데이터 센터처럼 활용할 수 있게 해주는 무료 오픈소스 도구인 Personal AI Router(PAIR)를 공개했다. PAIR는 네트워크상에서 호환 가능한 PC들을 자동으로 탐색 및 연결하여, Ollama나 LM Studio 같은 도구를 활용한 로컬 AI 추론 및 에이전트 워크플로우 처리를 지원한다. 하드웨어 라우터가 아닌 소프트웨어 기반의 솔루션으로, 주로 Nvidia RTX 20 시리즈 이상의 GeForce GPU 및 RTX Pro GPU, DGX Spark 시스템과 호환된다. 또한 Nvidia GPU 외에도 Apple의 M4 칩 이상이 탑재된 기기들과도 연동이 가능하다. 이 도구는 분산된 컴퓨팅 자원을 효율적으로 활용해 개인 환경에서 고성능 AI 모델을 구동하고자 하는 실무자들에게 유용한 대안이 될 것으로 보인다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Nvidia launches free tool that links idle computers into a personal AI data center
원문 보기 ↗