중요Reddit
Google, Gemma 4 채팅 템플릿 개선: 도구 호출 강화·Flash Attention 4 지원
툴 호출 정확도·게으름 개선에 Hopper GPU 최적화. 온프렘 오픈모델 파이프라인 재점검 가치.
요약
구글은 Gemma 4 모델의 챗 템플릿을 업데이트하여 도구 호출(tool calling) 기능을 대폭 개선하고 모델의 응답 지연(laziness) 현상을 줄였다. 이번 업데이트를 통해 Hopper GPU 환경에서 Flash Attention 4를 지원하여 모델 구동의 효율성을 높였다. 또한, 구글은 사용자가 비전 모델의 토큰 예산을 이해하고 성능을 개선할 수 있도록 돕는 대화형 가이드를 허깅페이스 공간에 공개했다. 이번 개선 사항들은 특히 로컬 LLM 환경에서 Gemma 4를 활용하는 개발자들에게 성능 및 사용성 측면에서 유의미한 변화를 제공할 것으로 보인다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Google is updating Gemma 4's chat templates, bringing major fixes to tool calling and reducing "laziness", and enabling Flash Attention 4 on Hopper GPUs, plus an interactive guide on how to work with and improve its vision!
원문 보기 ↗