LiquidAI, 온디바이스 추론 최적화 모델 'LFM2.5-24B-A2B' 공개

요약

LiquidAI가 온디바이스 AI 에이전트를 위한 추론 모델 LFM2.5-24B-A2B를 출시했다. 총 파라미터는 24B지만 활성 파라미터는 2B 수준으로 설계되어 빠른 추론 속도를 제공하며, LFM2.5 제품군의 최종 모델이다. 특히 Qwen3.6-35B-A3B와 비교했을 때, 에이전트 및 도구 사용 작업에서 LiveClaw 기준 48.09점을 기록해 더 높은 성능을 보였다. 또한, 온디바이스 환경에서 경쟁 MoE 모델 대비 최대 1.7배 빠른 속도를 구현하며 Apple M5 Max 칩셋에서 초당 184토큰의 처리 속도를 달성했다. 현재 해당 모델의 GGUF 버전이 Hugging Face에 공개되었으며 LiquidAI 공식 플레이그라운드에서 데모를 체험할 수 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.