Jev 스타일 입력으로 1MB급 초경량 의사결정 모델 빌더 공개
오프라인에서 밀리초 단위로 실행되는 로컬 의사결정 모델 구축 프레임워크 공유.
요약
Reddit의 r/LLMDevs 커뮤니티에서 Jev와 유사한 입력값을 통해 1MB 미만의 경량 의사결정 모델을 생성하는 API가 공개되어 관심을 끌고 있다. 이 모델은 오프라인에서 밀리초 단위로 작동하며, 호출당 비용이 발생하지 않고 일반적인 언어로 규칙을 설정할 수 있는 것이 특징이다. 초기 실험 결과, Doom 게임에서 Jev 대비 52킬 대 39킬, Snake 게임에서 47.1 대 40.0의 성과를 기록하며 성능 우위를 보였다. 또한 은행 고객 지원 라우팅 작업에서는 초기 데이터 없이 88.6%의 정확도를 보였고, 이후 사례 학습을 통해 95%까지 성능 향상이 가능했다. 해당 API는 잘못된 판단 사례를 1분 내외로 재학습하여 모델을 지속적으로 개선할 수 있는 구조를 갖췄다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Give an api what you give Jev and get back a better, faster model under 1 MB in minutes. Runs offline. No data needed. Would you use it?
원문 보기 ↗