참고팁Reddit
Windows용 로컬 LLM 프로젝트 'Brilliance' 공개 (Radiance 포크)
Windows 환경에서 듀얼 GPU를 활용한 로컬 LLM 구동 최적화 사례. 하드웨어 세팅 시 참고.
요약
Radiance 1.10을 윈도우 환경으로 포팅한 프로젝트인 Brilliance가 알파 프리뷰 버전으로 공개되었다. 기존 Radiance는 윈도우 환경에서 2개의 GPU를 완벽하게 패스스루하지 못해 도커(Docker)나 WSL 사용에 제약이 있었으나, 이를 해결하여 윈도우 환경에서 Tensor-P를 원활하게 구동할 수 있다. 테스트 시스템은 Windows 11, 9950X3D, 128GB DDR5 5200, 2x R9700 32GB 구성으로, 현재 윈도우 플랫폼에서 측정된 수치 중 가장 빠른 속도를 보였다. Brilliance는 원래 포팅 프로젝트로 시작했으나 현재는 해당 시스템 환경에 최적화된 독자적인 프로젝트로 발전했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Introducing Brilliance! A fork of Radiance 1.10 into Windows (RELEASE + PREVIEW)
원문 보기 ↗