중요X
Google, 실시간 음성 에이전트 최적화 'Gemma 4 31B' LiveKit에 공개
첫 오디오 354ms·툴 사용 tau2bench 76.9%로 GPT-4.1 상회. 국내 음성봇 스택 대안 검토 가치.
요약
구글은 실시간 음성 에이전트에 최적화된 Gemma 4 31B 모델을 LiveKit Inference 환경에 도입했다. 이번 모델은 354ms의 첫 오디오 출력 시간(time to first audio)과 192ms의 첫 토큰 생성 시간(time to first token)을 구현해 실시간 반응성을 극대화했다. 특히 에이전트 도구 사용 능력 평가인 tau2bench에서 31B 모델 기준 76.9%의 정확도를 기록하며 GPT-4.1을 앞서는 성능을 보였다. 실시간 음성 상호작용이 중요한 AI 서비스 개발자들에게 빠르고 효율적인 대안이 될 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @googlegemma: Every millisecond counts for voice agents. Introducing Gemma 4 31B on LiveKit Inference! Optimized for real-time voice agents: - 3
원문 보기 ↗