Google Earth’teki AI aracı deepfake endişesiyle kaldırıldı

Google, deepfake ve yanlış bilgi endişeleri nedeniyle Google Earth’teki yeni yapay zeka görsel aracını bir gün içinde kaldırdı. Şirket, daha güçlü önlemler planladığını belirtti.

Google, Google Earth platformunda Nano Banana 2 adlı yapay zeka destekli bir görsel oluşturma aracı başlattı. Bu araç, kullanıcıların metin komutlarıyla gerçek uydu görüntüleri üzerinde sahte sahneler yaratmasına olanak tanıyordu. Özellik, tarihi görselleştirme ve emlak planlama gibi amaçlarla tanıtıldı. Ancak, tanıtımdan sadece 24 saat sonra gazeteciler, araştırmacılar ve coğrafi bilgi uzmanlarından yoğun eleştiriler geldi. Eleştiriler, aracın inandırıcı deepfake’ler ve yanlış bilgi yayma potansiyeline odaklandı. Bu durum, olayların doğrulanmasında kullanılan uydu verilerine olan güveni zedeleyebilirdi. Google, dijital filigranlar ve konu kısıtlamaları gibi önlemler alsa da, aracın kötüye kullanıma açık olduğu görüldü. Şirket, politika ihlalleri ve daha güçlü güvenlik önlemleri ihtiyacını gerekçe göstererek özelliği hızla kaldırdı. Olay, güvenilir platformlarda yapay zeka ile üretilen içeriklerin riskleriyle inovasyon arasındaki dengeyi vurguluyor.