Unity 제어용 로컬 LLM 환경 벤치마크: Ornith 1.5 35B-A3B 사례

요약

한 Reddit 사용자가 8GB VRAM 환경에서 Unity를 제어할 수 있는 소형 로컬 LLM 구축을 시도한 결과, Ornith 1.5 35B-A3B 모델을 통해 초당 28토큰의 속도를 확보했으나 에이전트 동작은 미흡한 것으로 나타났다. 테스트 환경은 i7-12700H, RTX 3080 Laptop 8GB, 32GB RAM을 갖춘 Windows 11이며, Unity 6000.6.1f1 및 Unity CLI 1.0.0-beta.10이 사용되었다. 사용자는 새로운 씬 생성, 큐브 배치, 머티리얼 적용 및 프리팹 제작과 같은 명확한 Unity 작업을 수행하길 원했다. OMP/Pi 18.2.4를 단일 에이전트로 설정하고 서브 에이전트, 메모리, 스킬 등 부가 기능을 모두 비활성화하여 리소스 사용을 최적화했다. 그러나 높은 토큰 처리 속도에도 불구하고 실제 에이전트가 작업을 수행하는 과정에서 일관된 제어 능력을 보여주지 못해 실무 적용에는 한계가 있었다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.