Şirket bu özelliği yaratıcı projeleri desteklemek amacıyla tasarlamış olsa da NPR muhabirleri, su altında kalmış bir ABD Kongre Binası ve İran’daki stratejik bir petrol terminalinde çıkan yangınlar gibi gerçekçi yapay zeka ürünü sahte içerikler (deepfake) üretmeyi başardı.
Bu gelişme, uluslararası olayları doğrulamak için uydu görüntülerini güvenilir bir kaynak olarak gören insan hakları savunucuları ve açık kaynak araştırmacıları arasında ciddi endişeye yol açtı.
Bellingcat gibi gruplardan uzmanlar, uydu fotoğraflarının sahtesinin yapılmasının tarihsel olarak zor olduğunu ve bu nedenle savaş suçlarını belgelemek veya dezenformasyonu çürütmek için temel kanıt teşkil ettiğini belirtti.
Analistler, sahte hava verilerinin üretimini kolaylaştıran Google’ın, hükümetlerin gerçek zulüm kanıtlarını bilgisayar yapımı değersiz içerikler olarak nitelendirip reddetmesine imkan tanıyan bir mekanizma sağladığını savunuyor.
Google, gelen eleştirilere yanıt olarak zararlı konuları engellemek için güvenlik önlemleri aldığını ve görüntülerin yapay zeka tarafından oluşturulduğunu etiketlemek için SynthID adlı dijital filigran teknolojisini kullandığını açıkladı.
Bu meta veriler, Gemini yapay zeka asistanı gibi diğer Google araçları tarafından tespit edilebilecek şekilde tasarlandı.
Ancak araştırmacılar, sahte uydu görüntülerinin sosyal medyada resmi düzeltmelerden genellikle daha hızlı yayıldığını, dolayısıyla bu korumaların başlangıçtaki kafa karışıklığını önlemekte yetersiz kaldığını vurguluyor.