참고Reddit
로컬 LLM 리소스 공유 P2P 네트워크 'PrAIvy' 공개
API 비용 없이 커뮤니티 하드웨어를 연결해 로컬 LLM을 실행하는 분산형 서비스 실험.
요약
최근 Reddit의 r/ollama 채널에서 로컬 LLM을 위한 P2P 네트워크 서비스인 'PrAIvy'가 주목받고 있다. PrAIvy는 거대 기업의 API를 유료로 사용하는 대신, 커뮤니티 구성원들이 각자의 로컬 하드웨어를 연결하여 다른 사용자의 프롬프트를 처리하도록 설계된 탈중앙화 플랫폼이다. 사용자는 자신의 로컬 자원을 공유하여 프롬프트 처리를 돕고 그 대가로 크레딧을 얻는 방식으로 운영된다. 현재 개발자는 해당 아이디어에 대한 커뮤니티의 의견을 수렴 중이며, 사이트를 통해 직접 테스트 및 피드백을 받고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 I built an Airbnb for AI where peers share their local LLMs(Ollama)
원문 보기 ↗