참고팁Reddit
54GB VRAM을 단돈 35달러에: 중고 채굴기 활용 로컬 모델 환경 구축기
가성비 GPU 구성 전략입니다. 대규모 로컬 LLM 구동을 위한 저예산 하드웨어 구성에 참고할 만한 실제 사례입니다.
요약
한 레딧 사용자가 러시아 중고 거래 사이트 아비토(Avito)에서 약 35달러(3000루블)에 중고 채굴기 세트를 구매하는 데 성공했다. 해당 채굴기에는 6GB VRAM을 탑재한 P106 그래픽카드 9개가 장착되어 있어 총 54GB VRAM을 확보할 수 있는 구성이었다. 판매자는 작동 여부를 확신하지 못해 60달러에 매물을 올렸으나, 구매자는 이를 35달러까지 협상했다. SSD가 누락되었으나 USB 부팅을 통해 모든 그래픽카드가 정상 작동함을 확인했다. 저렴한 비용으로 다중 GPU 환경을 구축하려는 로컬 LLM 사용자들에게 흥미로운 사례로 주목받고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 54gb vram for 35$
원문 보기 ↗