참고팁Reddit
NVIDIA, 로컬 AI 워크로드 분산 도구 'PAIR' 베타 공개
로컬 네트워크 내 PC 간 AI 추론을 분산시켜 자원을 효율화하는 도구. 다중 로컬 에이전트 환경 구성 시 활용 검토.
요약
NVIDIA가 로컬 네트워크 내 유휴 자원을 활용해 AI 추론을 분산 처리하는 오픈소스 도구 'PAIR' 베타 버전을 공개했다. 이 도구는 Ollama 및 LM Studio와 연동되며 Windows, macOS, Linux 환경을 지원한다. 하드웨어 요구사항은 RTX 20 시리즈 이상, RTX PRO 워크스테이션 GPU, DGX Spark 및 Apple M4 이후 모델이 포함된다. PAIR는 복잡한 태스크를 소규모 작업으로 나누어 처리하는 로컬 에이전트 워크플로우에 최적화되어 있다. 또한 NVIDIA는 IFA 업데이트를 통해 Hermes Agent, OpenClaw, Perplexity Portable Computer의 모델 설정을 간소화하고 GeForce RTX 5090에서 llama.cpp의 처리량을 최대 1.9배 향상했다고 밝혔다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 NVIDIA's PAIR beta routes local AI work across PCs
원문 보기 ↗