중요AI타임스
구글, '구글 어스' AI 이미지 생성 기능 하루 만에 철회… 가짜 재난·전쟁 이미지 악용 탓
위성·지도에 생성 기능 붙일 때 악용 방지 설계 필수. 출시 후 부랴부랴 막는 리스크 경계.
요약
구글이 3D 위성 서비스 '구글 어스'에 도입했던 AI 이미지 편집 기능을 출시 하루 만에 전격 중단했다. 지난 30일(현지시간) 구글은 '나노 바나나 2' 이미지 생성 모델을 '구글 어스'에 통합하여 텍스트 프롬프트로 위성 지도 위 객체나 장면을 자유롭게 합성할 수 있는 기능을 선보였다. 그러나 일부 사용자들이 이 기능을 악용해 재난, 전쟁, 테러 상황 등을 묘사한 가짜 위성 이미지를 생성·유포하는 문제가 발생했다. 이로 인해 허위 정보 확산과 서비스 신뢰성 훼손에 대한 우려가 커지자 구글은 긴급하게 해당 기능을 철회하는 조치를 취했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 구글, 재난·공격 딥페이크 논란에 '구글 어스' AI 이미지 생성 기능 철회
원문 보기 ↗