Liquid AI, 트라이-하이브리드 아키텍처 'LFM3' 제품군 공개

요약

Liquid AI가 차세대 파운데이션 모델 제품군인 LFM3를 공개했다. LFM3는 게이트 단기 컨볼루션, 슬라이딩 윈도우 어텐션, 글로벌 어텐션을 결합한 새로운 Tri-hybrid 아키텍처를 적용하여 매개변수 효율성을 극대화했다. 텍스트, 비전, 오디오, 옴니, 의사결정 모델 등 총 6가지 모델로 구성되며, 특히 LFM3-1.7B는 기존 LFM2.5-2.6B 대비 매개변수를 35% 줄이면서 성능은 향상시켰다. 256K 토큰의 컨텍스트 윈도우를 지원하며, 4비트 양자화 시 1GB 내외의 용량으로 단일 GPU에서 파인튜닝이 가능해 온디바이스 배포에 최적화되었다. LFM3-VL-2B 모델은 1.9B 매개변수로 Gemma 4 12B 등 대형 모델과 경쟁하는 성능을 보여주며 실무적인 활용도를 높였다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.