Bu uygulamalar, kullanıcıların yüklediği fotoğraflardan cinsel içerikli ve şiddet içeren deepfake'ler üretmeye yarayan bir arayüzü gizlice yükleyebiliyor.
Araştırmacılara göre ağı Çince konuşan geliştiriciler ve Hong Kong'da kayıtlı bir kuruluş olan KeLing Technology Limited yönetiyor gibi görünüyor.
Kuruluş, WIRED'ın yorum taleplerine yanıt vermedi; ancak kendisiyle iletişime geçildikten sonra kuruluş ile deepfake araçları arasındaki kamuya açık bağlantıların silindiği görüldü.
Araştırmacılar ağın izini, Meta'nın Facebook ve Instagram platformlarındaki binlerce video reklam üzerinden sürdü.
WIRED'ın daha önce haberleştirdiği üzere bu reklamların yüzlercesi yapay zekâyla üretilmiş çocuk cinsel istismarı materyali içeriyordu.
Reklamlar, insanların görsel üretip Apple ve Google Pay üzerinden ödeme yapabildiği Apple ve Google uygulama mağazalarındaki uygulamalara yönlendiriyordu.
Kâr amacı gütmeyen AI Forensics'ten Paul Bouchaud, bunu yaptırımların kendilerini yakalamasını beklemeyen, örgütlü ve ticari bir operasyon olarak niteledi.
Bouchaud'nun analizine göre 27 uygulama Eylül ayında Google Play'de yayındaydı, toplam indirme sayıları 350.000'i aşıyordu ve çoğu her yaşa uygun olarak derecelendirilmişti.
Uygulamalar indirildiklerinde bir sunucuyla iletişime geçerek çalışıyor. Bouchaud'ya göre sunucu, kullanıcının konumu, dili ve benzersiz bir tanımlayıcı gibi bilgileri alıyor, ardından uygulamaya zararsız ya da müstehcen sürümü göstermesini söylüyor. Belirgin tetikleyicilerden biri, Meta reklamı üzerinden gelmek. Infoblox araştırmacısı Maël Le Touz, kod paylaşan ve birbirine atıf yapan yaklaşık 500 bağlantılı alan adı belirledi. Apple, WIRED bulgularını paylaştıktan sonra Viefur dahil 19 uygulamayı kaldırdı; uygulamaların incelemeden geçtiğini, ancak geliştiricilerin sonradan pornografik içerik eklediğini ve geçen yıl bu tür yem-değiştirme taktikleri nedeniyle on binlerce uygulamayı askıya aldığını söyledi. Google, kendisiyle iletişime geçilmeden önce uygulamaların çoğunu kaldırdı ve yorum yapmadı. Meta, KeLing Technology Limited'ın 2025'te reklam vermesini yasakladığını ve tespit ettiği 3.000'den fazla ilişkili reklamın üçte ikisini kaldırdığını belirtti. WIRED, haberini tamamlarken benzer reklam ve uygulamaların hâlâ yayımlandığını bildiriyor.
