谷歌因深度伪造担忧下架Google Earth AI工具

谷歌因深度伪造和虚假信息担忧，24小时内下架Google Earth AI图像工具，称将加强安全措施。

谷歌在Google Earth中推出了AI驱动的图像生成工具Nano Banana 2，允许用户通过文本提示在真实卫星图像上生成虚构场景。该功能被宣传为可用于历史可视化和房地产规划，但在24小时内便遭到记者、研究人员和地理空间专业人士的广泛批评。 主要担忧在于该工具可能生成逼真的深度伪造图像，传播虚假信息，削弱人们对卫星数据的信任。伪造图像示例包括墨西哥边境的难民、加沙的炸弹坑以及大城市的灾难，这些场景均为虚构。 尽管谷歌尝试加入数字水印和主题限制等安全措施，该工具仍易被滥用。谷歌迅速下架该功能，称其违反政策并需加强防护措施，且未公布重新上线时间。此次事件凸显了在受信任平台中平衡创新与AI生成内容风险的挑战。