Sohbet botları yanıltıcı sorulardaki hatalı önermeleri sıklıkla tespit ederken, analizler arama motoru sonuçlarının en üstünde görünen yapay zeka özetlerinin (AI overviews) daha az güvenilir performans sergilediğini ve dezenformasyonla mücadele konusunda geleneksel arama bağlantılarından daha sık başarısız olduğunu gösterdi.
Bu bulgular, yapay zeka altyapısının yabancı nüfuz operasyonları tarafından bilginin zehirlenmesi durumuyla nasıl başa çıktığına dair bir değişime işaret etmesi bakımından önem taşıyor.
Araştırmacılar başlangıçta üretken yapay zekanın (generative AI) devlet destekli yalanları eleştirmeksizin tekrarlamasından endişe etse de sohbet botlarının kaynakların güvenilirliğini analiz ederek ve farklı dillerdeki yalanlamaları sentezleyerek geleneksel web aramalarından daha iyi performans gösterdiği görüldü.
Ancak, Google veya Bing sonuçlarının en üstündeki otomatik metin parçalarına güvenen kullanıcılar için bir risk bulunuyor; zira cevapları arama verilerine dayandırma mekanizması bazen doğrulanmamış iddiaların büyümesine yol açabiliyor.
Yapay zeka modelleri günlük internet kullanımına entegre olmaya devam ederken, dijital okuryazarlık uzmanları çeşitlendirilmiş bir arama stratejisinin gerekli olduğunu belirtiyor.
Doğruluğu artırmak için kullanıcılar sohbet botlarından kanıtlara ikinci kez bakmalarını isteyebilir veya atıfta bulunulan kaynakların güvenilirliğini değerlendirmeleri için komut verebilir.
Google ve Microsoft gibi şirketler bu araçları geliştirmeye devam etse de çalışma, yapay zeka tarafından üretilen yanıtların kalitesinin olgusal haberciliğin mevcudiyetine bağlı olduğu konusunda uyarıyor; güvenilir kaynakların az olduğu durumlarda sistemlerin hatalı bilgileri öne çıkarma olasılığı artıyor.