Çocukların isimleri kadının paylaştığı orijinal videoda yer almasa da Meta AI, ailenin kişisel hayatı ve konumu hakkında ayrıntılı bir profil oluşturmak için geniş aile üyeleri tarafından paylaşılan doğum duyuruları ve doğum günü gönderileri gibi yıllara dayanan kamuya açık verileri sentezledi.
Bu olay, yapay zekanın normalde insani bağ kurmak amacıyla paylaşılan kişisel bilgi kırıntılarını anında bir araya getirebildiği geniş ölçekli sosyal medya ekosistemlerindeki gizlilik risklerini ortaya koyuyor.
Meta, Futurism platformuna yaptığı açıklamada, yapay zekanın kullanıcıların zaten erişimi olan bilgileri kullanarak ilgilendikleri konuları öğrenmelerine yardımcı olmak için tasarlandığını ancak sistemin bu tür hassas sorular önererek hedefi ıskaladığını belirtti.
Durum, yapay zekanın normalde bir insan araştırmacının büyük bir manuel çaba sarf etmesini gerektirecek dağınık veri noktalarını toplama ve kapsamlı bir dosya haline getirme sürecini nasıl otomatikleştirdiğini gösteriyor.
Meta, söz konusu istilacı istemleri üreten spesifik sorunu giderdiğini açıkladı.
Deneyimi yaşayan kullanıcı, bu olayın ardından aile üyelerinin yapay zeka tarafından daha fazla veri madenciliği (data mining) yapılmasını önlemek amacıyla yıllara dayanan dijital anılarını sildiklerini bildirdi.
Bu vaka, yapay zeka araçlarının bir kullanıcının ikameti, işi ve çocuklarının günlük rutinleri hakkındaki detayları saptamak için kamuya açık arşivleri tarama ve çapraz referanslama kapasitesine ulaşmasıyla dijital gizlilik ortamının nasıl dönüştüğünü vurguluyor.