참고Reddit
소형 MoE 모델 3종 성능 비교: Flint, Ornith, Nemotron
코드 생성 태스크에서 최신 소형 MoE 모델들의 실제 체감 성능과 처리 능력 비교 결과.
요약
Reddit의 r/LocalLLaMA 커뮤니티에서 최근 공개된 소형 MoE 모델인 Flint 40B-A2.5B, Ornith 1.5 35B-A3B, Nemotron 3.5 Lightning의 성능을 비교 테스트했다. 테스트는 동일한 환경에서 'Atomic Agent v0.6.10'을 사용해 Three.js 기반의 핼러윈 체인 리액션 코드 작성(1,000~1,700라인 규모)을 수행하는 방식으로 진행되었다. 기획 단계에서는 Opus 5.5를 고정하고, 워커 모델로 각 테스트 대상 모델을 병렬로 투입하여 결과를 비교했다. 모든 모델은 Q8_0 GGUF 포맷으로 통일했으며, llama.cpp b11803 버전을 사용하여 동일한 프롬프트와 설정을 적용했다. 이번 비교는 로컬 환경에서 실행 가능한 최신 모델들의 코딩 성능을 실무적 관점에서 직접 검증한 사례이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Flint 40B-A2.5B vs Ornith 1.5 35B-A3B vs Nemotron 3.5 Lightning
원문 보기 ↗