구글, 검색 성능 높이는 추론 최적화 프레임워크 'R4T' 발표

요약

구글이 복잡한 AI 검색 시 발생하는 추론 연산과 응답 지연 문제를 해결하기 위해 새로운 프레임워크 'R4T(Retrieve-for-Train)'를 15일(현지시간) 공개했다. 기존 방식은 검색마다 대형언어모델(LLM)이 수많은 사고 과정을 거쳐야 했으나, R4T는 이를 실시간 검색이 아닌 사전 학습 단계에서 처리하는 방식이다. 이 접근법을 통해 구글은 AI 검색 속도를 기존 대비 최대 20배까지 향상시킬 수 있다고 밝혔다. 또한 추론 시간과 연산 비용을 획기적으로 줄여 검색 효율성을 높였다. 해당 기술은 복잡한 질문을 세부 검색어로 나누고 결과를 조합하는 과정의 부하를 최소화하는 데 중점을 두고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.