초경량 에이전트 LLM 'Needle 2' 공개... 14MB 모델로 로컬 실행 가능

요약

Needle 2는 14MB 바이너리와 28MB RAM이라는 초소형 크기로 구현된 에이전트 LLM으로, 스마트폰·웨어러블·로봇 등 저사양 하드웨어 환경을 목표로 개발되었습니다. Wasm 기반의 로컬 실행은 성과이나, 웹 데모 테스트 결과 복잡한 로보틱스 경로 계획이나 도구 호출 로직에서 부정확한 추론과 신뢰도 문제가 관찰되어 실용성은 아직 부족한 상태입니다. 특히 난방 요청 시 냉방 모드로 설정하거나 수학 도구 없이 계산을 시도하는 등 일관되지 못한 답변이 나타나 보완이 필요합니다. 다만, 정규 표현식보다 유연하게 데이터를 구조화하거나 보청기 등 극한의 경량화가 필요한 임베디드 환경에서의 잠재력은 긍정적으로 평가됩니다. 업계가 지능의 최전선에 집중하는 동안, Needle 2는 모델의 크기와 배포 형태라는 측면에서 로컬 실행의 가능성을 제시하고 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.