참고Reddit
DAiHive: 로컬 기기 자원을 공유해 대형 모델을 실행하는 P2P 컴퓨팅 네트워크
사용하지 않는 RAM과 GPU 자원을 공유해 OpenCode 등의 작업에서 고성능 모델을 분산 처리하는 프로젝트.
요약
DAiHive는 여러 컴퓨터의 여유 RAM과 연산 능력을 P2P 방식으로 연결하여 거대 AI 코딩 모델을 구동하는 분산형 네트워크 서비스다. 사용자가 코딩 애플리케이션인 OpenCode에서 작업하면, DAiHive가 이를 여러 기기에 나누어 처리함으로써 단일 PC에서는 실행하기 어려운 대규모 모델도 실행 가능하게 한다. 네트워크에 참여하는 인원이 늘어날수록 동시에 처리할 수 있는 코딩 세션이 많아지고 시스템 안정성이 향상된다. 또한 'Teams' 기능을 통해 사용자는 자신의 컴퓨터를 독립된 P2P 네트워크로 분리하여 구성할 수 있다. 5GB 수준의 소형 모델부터 200GB의 대형 모델까지 지원하지만, 모델 실행을 위해서는 충분한 수의 워커(Worker)가 온라인 상태여야 한다. 현재 DAiHive는 Windows 환경에서만 사용할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 DAiHive - P2P Decentralized Ai
원문 보기 ↗