참고HF Blog
허깅페이스, 엣지용 멀티모달 모델 'LFM3' 출시
2B 파라미터급으로 에지 디바이스에서 최적화된 하이브리드 아키텍처. 온디바이스 AI 개발 시 고려할 가치 있음.
요약
Liquid AI는 텍스트, 비전, 오디오 등 다양한 모달리티를 단일 백본에서 처리하는 2B 파라미터급의 차세대 파운데이션 모델 'LFM3'를 공개했습니다. LFM3는 하드웨어 인 더 루프(hardware-in-the-loop) 아키텍처 탐색을 통해 에이전트 작업에 최적화되었으며, 스마트폰부터 라즈베리 파이 5, NPU까지 14가지 장치 조합에서 빠른 추론 성능을 제공합니다. LFM3-1.7B-Base 모델은 22T 토큰으로 사전 학습되었으며, 특히 8K 토큰의 긴 문맥 처리 시 기존 LFM2-1.2B 대비 약 25% 더 빠른 속도를 보입니다. 최종 학습 단계에서는 에이전트 트레이스와 도구 호출 데이터를 강화하고 컨텍스트 윈도우를 256K 토큰까지 확장했습니다. 개발자는 특정 모달리티에 적합한 모델을 선택하여 단일 GPU에서 파인튜닝하고 실제 애플리케이션 환경에 맞게 배포할 수 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Build specialized multimodal models with LFM3
원문 보기 ↗