← promppy_ 실시간 AI 뉴스
중요Hacker News

Liquid AI, 온디바이스 에이전트용 MoE 추론 모델 'LFM2.5-24B-A2B' 공개

24B 중 활성 2B만 사용해 Apple M5(애플 M5) Max서 184토큰/s. 오픈웨이트라 로컬 에이전트 구축에 검토 가치.

요약

LFM2.5-24B-A2B는 24B 파라미터 규모에 실제 활성 파라미터는 2B개만 사용하는 온디바이스 에이전트용 추론 모델로, LFM2.5 시리즈의 최종 모델이다. 이 모델은 Qwen3.6-35B-A3B와 비교해 LiveClaw 및 AutomationBench 등 주요 에이전트 및 도구 활용 벤치마크에서 더 뛰어난 성능을 보였다. 토큰당 2B 파라미터만 활성화하여 Apple M5 Max에서 초당 184토큰, NVIDIA B300 GPU에서 초당 최대 21,000토큰의 빠른 추론 속도를 구현했다. 기존 LFM2-24B-A2B 대비 어휘 및 컨텍스트 윈도우를 확장하고 대규모 강화 학습을 적용했으며, 최종 답변 전 사고 과정을 명시적으로 출력하는 추론 전용 모델로 설계되었다. 모델의 베이스 버전과 사후 학습 버전은 오픈 웨이트로 공개되어 허깅페이스(Hugging Face)와 플레이그라운드에서 즉시 이용 가능하다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.

원문 제목 LFM2.5-24B-A2B: Built for fast on-device agents

원문 보기 ↗

광고

promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.

15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공

실시간 피드 보기 →RSS 구독

관련 뉴스