엔비디아, 별도 모델 없이 LLM이 직접 검색하는 'UNREAL' 논문 공개

요약

NVIDIA가 발표한 UNREAL 연구는 별도의 검색 모델 없이 LLM이 직접 데이터를 검색하고 답변하는 새로운 방식을 제시했습니다. 이 기법은 기본 모델을 고정한 채 50만 개 미만의 학습 가능한 파라미터만 추가하며, LLM 내부 표현을 활용해 필요한 정보를 스스로 선택합니다. 30억 개의 토큰으로 구성된 위키피디아 인덱스에서 HotpotQA의 완전 증거 검색 재현율은 49.1%에서 73.2%로, 2WikiMultiHopQA는 31.7%에서 60.1%로 대폭 향상되었습니다. 또한 128K 토큰 길이의 프롬프트에서 불필요한 정보를 걸러내는 NoLiMa 정확도는 1%에서 24.83%로 상승했습니다. 이 방식은 검색과 답변을 단일 모델이 수행함으로써 연산량을 줄이고 32K 토큰 이상의 긴 문맥에서 답변 생성 대기 시간을 단축하는 효과가 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.