참고AI타임스
리퀴드 AI, 엣지 환경용 소형 에이전트 모델 'LFM2.5-2.6B' 공개
2.6B 규모로 라즈베리 파이 등 저전력 기기에서 구동 가능, 온디바이스 에이전트 구현 시 고려할 만한 옵션.
요약
리퀴드 AI는 스마트폰, 노트북, 라즈베리 파이 등 저전력 임베디드 기기에서 구동 가능한 소형 에이전트 특화 모델 'LFM2.5-2.6B'를 공개했다. 클라우드 의존 없이 기기 자체에서 AI 에이전트를 실행하도록 설계되어 개인정보 보호, 낮은 지연시간, 추론 비용 절감 효과를 기대할 수 있다. 이번에 공개된 모델은 26억 개의 매개변수를 갖췄으며, 기본 모델인 'LFM2.5-2.6B-베이스'와 후처리 모델 등 두 가지 버전으로 제공된다. 두 모델 모두 허깅페이스를 통해 접근할 수 있어 접근성을 높였다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 리퀴드 AI, 라즈베리 파이서 구동되는 소형 에이전트 모델 'LFM2.5-2.6B' 공개
원문 보기 ↗