Google retira herramienta IA de Google Earth por deepfakes

Google retiró su herramienta de imágenes IA en Google Earth tras críticas por permitir escenas satelitales falsas, generando preocupación sobre desinformación y deepfakes.

Google lanzó Nano Banana 2, una herramienta de generación de imágenes impulsada por IA dentro de Google Earth. Esta función permitía a los usuarios crear escenas fabricadas sobre imágenes satelitales reales mediante indicaciones de texto, y se promocionó para visualizar la historia y planificar bienes raíces. Sin embargo, en menos de 24 horas, periodistas, investigadores y profesionales geoespaciales criticaron la herramienta. Las preocupaciones principales giraron en torno a su potencial para crear deepfakes convincentes y difundir desinformación, lo que podría socavar la confianza en los datos satelitales utilizados para verificar eventos reales. Se detectaron imágenes fabricadas de refugiados en la frontera mexicana, cráteres de bombas en Gaza y desastres en grandes ciudades, ninguna de ellas real. A pesar de salvaguardas como marcas de agua y restricciones temáticas, la herramienta demostró ser vulnerable al mal uso. Google retiró rápidamente la función, citando violaciones de políticas y la necesidad de protecciones más sólidas, sin fecha para su regreso. El caso subraya los retos de equilibrar innovación y riesgos en el contenido generado por IA.