참고Reddit
10M 파라미터 소형 모델 'TinyDecide' 공개
Jev 아키텍처 기반, 6MB 용량으로 로컬 환경 구동 가능. ESP32까지 지원하여 임베디드 AI 구현 시 참고.
요약
최근 레딧(r/LocalLLaMA)에서 주목받는 'TinyDecide'는 매개변수 10M 규모의 경량화된 Jev-like 모델입니다. 이 모델은 전체 용량이 약 6MB에 불과해 기존 Decision Index 리더보드에 있는 어떤 모델보다 작고 효율적입니다. 웹 브라우저, Node.js, Python, Rust 등 다양한 환경에서 구동이 가능하며, 초소형 마이크로컨트롤러인 ESP32에서도 실행할 수 있습니다. 크기 대비 뛰어난 성능을 보여주며, 관련 코드는 허깅페이스(Hugging Face)를 통해 공개되었습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Smallest Jev-like model
원문 보기 ↗