중요X
Microsoft(마이크로소프트), DeepSeek V4(딥시크 V4) Flash(284B) 시연… 1.6비트 양자화로 약 60GB까지 축소
128GB 통합 메모리 노트북이면 로컬 구동 가능. 온디바이스 대형 모델 배포 검토 가치.
요약
Microsoft가 284B 파라미터 규모의 오픈 웨이트 모델인 DeepSeek V4 Flash를 공개했다. 이 모델은 양자화(quantization) 기술을 통해 1.6비트로 압축하면 약 60GB의 메모리만으로 구동이 가능하다. 따라서 높은 사양의 하드웨어 환경에서는 윈도우 PC에서의 로컬 구동이 지원된다. Microsoft는 이 모델을 구동할 수 있는 신제품 Surface Laptop Ultra를 함께 선보였다. 해당 노트북은 Nvidia의 RTX Spark 칩을 탑재했으며, 최대 128GB의 통합 메모리를 제공해 대규모 모델 실행을 뒷받침한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @rohanpaul_ai: Microsoft today showcased DeepSeek V4 Flash, a 284B-parameter open-weight model, runs locally on a Windows PC once quantized to 1.
원문 보기 ↗