중요Google AI
Google(구글), Gemini(제미나이) API에 'Tool Retrieval' 프리뷰 공개
툴 스키마를 필요할 때만 로드해 입력 토큰·지연 절감. 툴 많은 에이전트라면 검토 가치.
요약
Google이 Gemini API의 Interactions API에 'Tool Retrieval' 기능을 프리뷰로 도입했다. 이 기능은 전체 도구 라이브러리를 매번 프롬프트에 포함하는 대신 필요할 때만 매개변수 스키마를 로드하도록 설계되었다. 이를 통해 대규모 도구 라이브러리를 관리하는 에이전트의 입력 토큰 비용과 지연 시간을 줄이고 도구 선택의 정확성을 높일 수 있다. 사용자는 Interactions API 요청 시 'tool_search' 도구를 추가하고 'defer_loading'을 'true'로 설정하여 즉시 기능을 활용할 수 있다. 수십에서 수백 개의 도구를 사용하는 복잡한 작업 환경에서 더 효율적이고 반응성이 뛰어난 애플리케이션 구축이 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Introducing Tool Retrieval in the Gemini API
원문 보기 ↗