딥페이크 우려로 구글 어스 AI 도구 중단

구글은 위성 이미지 위에 가짜 장면을 생성하는 AI 도구를 딥페이크·허위정보 우려로 하루 만에 Google Earth에서 중단했습니다.

구글은 Google Earth에 AI 기반 이미지 생성 도구인 Nano Banana 2를 도입해, 사용자가 텍스트 프롬프트로 실제 위성 이미지 위에 가공된 장면을 만들 수 있도록 했습니다. 이 기능은 역사 시각화, 부동산 계획 등 다양한 용도로 홍보되었습니다. 그러나 출시 24시간 만에 언론인, 연구자, 지리정보 전문가들로부터 광범위한 비판이 제기됐습니다. 주요 우려는 이 도구가 그럴듯한 딥페이크 이미지를 생성해 위성 데이터의 신뢰를 훼손하고, 허위 정보를 확산시킬 수 있다는 점이었습니다. 실제로 멕시코 국경의 난민, 가자지구의 폭탄 구덩이 등 실제로 존재하지 않는 장면들이 생성되었습니다. 구글은 디지털 워터마크, 주제 제한 등 안전장치를 도입하려 했으나, 오용 가능성이 확인되자 정책 위반 및 더 강력한 보호장치 필요성을 이유로 해당 기능을 즉시 제거했습니다. 재도입 일정은 미정입니다. 이번 사건은 신뢰받는 플랫폼에서 AI 생성 콘텐츠의 혁신과 위험 사이 균형의 중요성을 부각시켰습니다.