참고Reddit
Godot 엔진 내에서 GDScript와 Vulkan 컴퓨트 셰이더만으로 Gemma 4 로컬 실행 구현
외부 종속성(llama.cpp 등) 없이 게임 엔진 내부 자원만으로 소형 LLM을 구동하는 실험적 시도로 참고할 만함.
요약
Reddit의 r/LocalLLaMA에서 llama.cpp, Python, 외부 서버, GDExtension 없이 Godot 엔진 내부에서 직접 LLM을 구동하는 실험이 공개되었습니다. 이 Godot 4.7 프로젝트는 Vulkan compute shader를 통해 로컬에서 gemma-4-E2B-it-Q4_K_M.gguf 모델의 연산을 처리합니다. GDScript는 GGUF 로딩, 토큰화(tokenization), 샘플링, KV 캐시 관리, 채팅 UI 구현 등의 전반적인 작업을 수행합니다. 해당 프로젝트는 CUDA를 사용하는 llama.cpp보다 약 10배 느리고 하나의 모델만 지원하는 실험적 단계이지만, Godot 자체 기능만으로 LLM을 실행할 수 있음을 증명했습니다. 해당 실험의 전체 코드는 GitHub(https://github.com/asallay/godot-llm)에 공개되어 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 I got Gemma 4 running directly inside Godot using only GDScript and Vulkan compute shaders
원문 보기 ↗