참고Reddit
NotebookLM, 업로드 소스 외 웹 정보 참조 문제 발생
사용자가 업로드하지 않은 웹상의 정보를 AI가 답변에 포함하는 현상이 보고됨. 문서 기반 RAG 구축 시 주의 필요.
요약
최근 Reddit의 NotebookLM 커뮤니티에서 사용자가 업로드한 PDF 소스에 없는 정보를 답변하는 현상이 보고되고 있습니다. 해당 사용자는 NotebookLM이 자체적으로 웹 검색을 수행하여 소스 문서 외부의 정보를 혼합하는 것으로 추측하고 있습니다. 이러한 할루시네이션(환각) 현상은 원본 데이터 기반의 정확한 분석을 원하는 사용자들에게 혼란을 야기하고 있습니다. 현재 동일한 문제를 겪는 사용자들이 커뮤니티 내에서 해결책을 공유하며 논의를 이어가고 있습니다. NotebookLM을 업무에 활용할 경우, 생성된 답변의 근거가 사용자가 제공한 파일 내에 존재하는지 반드시 교차 검증할 필요가 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Notebook is searching for information in the web and giving answers with information that are not in the source PDF's
원문 보기 ↗