참고팁Reddit
llama.cpp, Gemma 4(젬마 4) 그래픽 최적화 업데이트…프롬프트 처리 속도 대폭 개선
로컬 LLM 구동 시 Gemma(젬마) 모델의 프롬프트 처리 성능을 직접적으로 최적화할 수 있는 업데이트.
원문 제목 gemma4: graph optimizations (massive gains on pp for E2B and E4B) by max-krasnyansky · Pull Request #31356 · ggml-org/llama.cpp
원문 보기 ↗