OpenBMB, 온디바이스 시각 처리 특화 MoE 모델 'MiniCPM-V 4.7' 공개

요약

OpenBMB가 멀티모달 모델 시리즈의 최신작인 'MiniCPM-V-4.7-35B-A3B'를 공개했다. 이 모델은 MiniCPM-V 시리즈 최초의 MoE(Mixture-of-Experts) 모델로, 기존의 단일 이미지·다중 이미지·비디오 이해 능력을 한층 강화했다. 특히 Lookahead Expert Scheduling(LES) 기술과 세밀한 레이어별 양자화, DSpark 추론 기법을 결합하여 오픈소스 MoE 모델 중 처음으로 온디바이스 환경에서 원활한 추론을 지원한다. 효율적인 시각 인코딩과 더불어 강력한 기초 성능을 갖춰 로컬 환경에서의 시각적 작업 수행 능력이 크게 향상되었다. 현재 허깅페이스를 통해 GGUF 형식으로도 이용할 수 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.