참고X
Google 검색 AI 답변의 신뢰성 문제: 출처 없는 정보 생성 사례
AI 기반 검색 답변의 환각과 검증 프로세스의 부재를 시사. AI 답변을 의사결정에 활용할 때 반드시 원문 확인 필요.
요약
한 X(구 트위터) 사용자가 구글 AI 검색 결과에서 출처 없는 답변을 확인하고 이에 대해 구체적인 근거를 요구하자, AI가 무작위로 10개의 연구 자료를 제시하는 사례가 보고되었습니다. 해당 사용자가 AI에게 '제시한 자료를 원래 답변의 근거로 사용했느냐'고 재차 질문하자, AI는 '사용하지 않았다'고 답변하며 할루시네이션(환각) 현상을 노출했습니다. 이번 사례는 생성형 AI가 검색 결과의 신뢰성을 담보하기 위해 인용하는 소스 시스템의 허점을 여실히 드러냈다는 평가를 받습니다. 실무자들은 AI 검색 기능이 답변의 근거를 자의적으로 생성할 수 있다는 점을 인지하고, 정보 검증 절차를 반드시 병행해야 합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @PunishedFredda: Googled something, got a Google AI answer that had zero sources, curiosity got the better of me and I put in "What are the sources
원문 보기 ↗