Google bu aracı fikirleri hayata geçirme yolu olarak tanımlasa da yapılan testler, şirketin zararlı konulara karşı koruma sağlandığı yönündeki iddialarına rağmen İran'daki bir nükleer tesis ve Gazze'deki bir hastane gibi hassas içeriklerin başarıyla oluşturulabildiğini gösterdi.
Bu gelişme, araştırmacılar ve gazeteciler tarafından yirmi yıldır olayları doğrulamak için güvenilir bir referans olarak kullanılan Google Earth'ün rolünü temelden değiştiriyor.
Sahte görsellerin gerçek hava ve 3D verilerine eklenmesine izin verilmesi, hükümetler veya kötü niyetli aktörler tarafından yürütülen dezenformasyon ve bilgi savaşları riskini artırıyor.
Üretilen görsellerin mevcut haritanın ışık, açı ve güvenilirliğini miras alması, bu içeriklerin gerçeklikten ayırt edilmesini zorlaştırırken askeri hareketliliklere veya trajedilere dair meşru kanıtlar üzerinde şüphe uyandırabiliyor.
Kötüye kullanımı engellemek adına Google, Nano Banana 2 tarafından üretilen görüntülerin SynthID adlı görünmez bir dijital filigran (watermark) içerdiğini belirtti.
Ancak bu koruma sistemi, filigranın tespiti için Gemini uygulaması veya Google Arama gibi şirketin kendi ekosistemine ihtiyaç duyuyor.
Görüntülerin ekran görüntüsü veya yeniden kodlanmış videolar olarak sosyal medyada paylaşılması durumunda harici dedektörlerin bu sahteciliği tespit etmekte zorlanabileceği ifade ediliyor.
Bu durum, uydu görüntülerinin gerçekliğini doğrulamak için artık Landsat veya Airbus gibi bağımsız uydu sağlayıcılarından alınan yörünge verileriyle çapraz kontrol yapılmasını zorunlu hale getirebilir.