참고The Verge
연구: ChatGPT(챗GPT) 등 주요 챗봇, 허위 쇼핑 사이트 추천 위험 발견
AI 에이전트 개발 시 모델의 할루시네이션이나 정보 출처 검증(RAG)의 중요성을 다시 일깨움.
요약
지식재산권 보호 기업 Podqi가 수행한 최근 연구에 따르면, 쇼핑 관련 정보를 탐색하는 AI 챗봇들이 사용자에게 가짜 쇼핑몰이나 위험한 웹사이트를 추천하는 사례가 발견되었습니다. 연구팀은 9월 중 두 차례에 걸쳐 ChatGPT, Gemini, Perplexity를 대상으로 151개 브랜드의 공식 판매처나 배송 정보를 묻는 질문을 테스트했습니다. 그 결과, AI 챗봇들이 브랜드와 무관하거나 보안상 위험한 사칭 웹사이트를 신뢰할 수 있는 쇼핑몰로 잘못 안내하는 위험이 확인되었습니다. 이번 결과는 사용자가 쇼핑 정보를 얻기 위해 AI 챗봇에 의존할 때 피싱 사이트나 사기 웹사이트로 유도될 가능성이 있음을 시사합니다. 실무자들은 AI 챗봇이 제공하는 정보의 정확성을 맹신하지 말고, 최종 구매 전 공식 웹사이트 여부를 직접 확인해야 합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 AI chatbots are recommending fake retail websites, study finds
원문 보기 ↗