참고팁Reddit
듀얼 RTX 3090 활용 로컬 LLM 및 ComfyUI(콤피UI) 서버 구축기
고성능 로컬 환경 구성을 통한 모델 추론 및 이미지 생성 최적화 사례.
요약
한 Reddit 사용자가 AMD EPYC 7313 CPU와 256GB DDR4-2666 ECC 메모리를 기반으로 효율적인 로컬 LLM 서버를 직접 구축했다. 이 시스템은 6개의 Radeon R9700을 통해 Qwen3.8 Flash Next와 Qwen3.8-27B Uncensored 모델을 구동하며, 2개의 RTX3090을 ComfyUI, VoxCPM2 TTS, Whisper STT, 임베딩 및 리랭킹 작업에 할당했다. 사용자는 전반적인 서버 성능에 만족하면서도 향후 ComfyUI 최적화를 위해 추가적인 NVIDIA 그래픽카드 확보를 희망했다. 또한 추후 출시될 Qwen4 변형 모델로의 전환을 준비하고 있다. 메인보드는 ASRock ROMED8-2T/BCM을 사용했으며, 3.2TB 용량의 Samsung PM1725b SSD를 탑재했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Finally got it put together
원문 보기 ↗