참고팁X
8GB 램에서 구동 가능한 'DeepSeek V4(딥시크 V4) Pro' 파생 모델 등장
8GB RAM/VRAM 환경에서 로컬 구동 가능하며, 답변 거부율을 낮춘 최적화된 오픈 가중치 모델로 로컬 LLM 활용 시 검토 추천.
요약
DeepSeek V4 Pro의 추론 능력을 증류한 9B 파라미터 모델이 공개되어 8GB RAM 환경에서도 구동이 가능해졌다. 이 모델은 CPU 전용 환경이나 8GB VRAM GPU에서도 실행할 수 있으며, 기존 대비 거부 응답률이 100/100에서 3/100으로 대폭 감소했다. Q4_K_M 버전 기준 5.6GB 용량으로 다운로드가 가능하며 LM Studio와 Ollama를 지원한다. Apache 2.0 라이선스가 적용되어 오픈 웨이트로 공개되었으며, 상세 모델 정보와 GGUF 파일은 제공된 링크를 통해 확인할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @pengsonal: RUN UNCENSORED DEEPSEEK V4 PRO ON A NORMAL 8GB PC 🤯 a 9B model distilled from DeepSeek V4 Pro reasoning, with almost no refusals.
원문 보기 ↗