구글 리서치, "LLM 환각은 지식 결핍 아닌 기억 인출 실패가 원인"

요약

구글 리서치와 이스라엘 테크니온 연구진은 LLM의 환각 현상이 모델의 지식 부족보다는 저장된 정보를 제대로 불러오지 못하는 '기억 인출 실패'에서 기인한다는 연구 결과를 발표했습니다. 기존에는 환각 해결을 위해 모델 크기를 확대하거나 RAG(검색 증강 생성) 기술에 주로 의존해 왔으나, 이는 근본적인 해결책이 아닐 수 있다는 지적입니다. 연구진은 이번 논문 '빈 선반인가, 잃어버린 열쇠인가'를 통해 인출 실패가 환각의 주요 원인임을 규명했습니다. 따라서 앞으로는 모델의 지식 총량을 늘리는 방식보다, AI가 답변하기 전 스스로 논리적인 사고를 할 수 있는 시간을 부여하는 방식이 환각 대응의 핵심이 될 것으로 보입니다. 이번 연구는 AI 모델의 환각 문제를 해결하는 기술적 패러다임이 '지식 확장'에서 '인출 및 사고 능력 강화'로 전환되어야 함을 시사합니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.