Google Earth видалила ШІ-інструмент через deepfake

Google видалила ШІ-інструмент із Earth через критику щодо deepfake-сцен і ризиків дезінформації. Компанія посилається на порушення політики та планує посилити захист.

Google запустила інструмент генерації зображень на базі ШІ Nano Banana 2 у Google Earth, який дозволяє створювати вигадані сцени поверх реальних супутникових знімків за текстовими підказками. Функцію рекламували для візуалізації історії та планування нерухомості, але вже за 24 години вона зазнала критики з боку журналістів, дослідників і геопросторових фахівців. Основні побоювання стосувалися можливості створення переконливих deepfake-ів і поширення дезінформації, що підриває довіру до супутникових даних, які використовують для перевірки подій. Серед прикладів вигаданих зображень — біженці на мексиканському кордоні, вирва від бомби в Газі та катастрофи у великих містах, жодна з яких не була реальною. Попри спроби впровадити захист, як-от цифрові водяні знаки та обмеження тем, інструмент виявився вразливим до зловживань. Google швидко видалила функцію, посилаючись на порушення політики та необхідність посилення захисту, не назвавши термінів повернення. Інцидент підкреслив виклики у балансуванні інновацій і ризиків ШІ-контенту на довірених платформах.