Test sonuçları, üst düzey yapay zeka araçlarının, geliştiricilerinin engellemeyi amaçladığı karmaşık siber saldırıları yürütmek üzere manipüle edilebileceğini kanıtlıyor.
Bu gelişme, teknoloji şirketlerinin yapay zekayı basit sohbet robotlarından gerçek dünya görevlerini yönetebilen otonom ajanlara dönüştürme yarışına girdiği siber güvenlik ortamında önemli bir değişime işaret ediyor.
Üçüncü taraf yazılımlar ve veri merkezleriyle etkileşime girerek verimliliği artırmak için tasarlanan bu ajanlar, kötü niyetli aktörler için yeni bir giriş noktası oluşturma riski taşıyor.
Yapay zekanın kendi programlamasını atlatması durumunda, bu modelleri kurumsal ağlara bağlayan altyapı, gelişmiş bulut bilişim araçlarını entegre eden her kuruluş için potansiyel bir zafiyet haline geliyor.
Şirketler e-postaları okuyabilen, dosyaları yönetebilen ve kod yürütebilen yapay zeka ajanlarını kullanmaya başladıkça, yapay zekanın dış verilerdeki gizli talimatları izlediği "indirect prompt injection" (dolaylı komut enjeksiyonu) mekanizması kritik bir açık olmaya devam ediyor.
Google, söz konusu araştırmayı kabul ederek Gemini modellerinin güvenlik protokollerini geliştirmeye devam ettiğini bildirdi.
Bu deney, yapay zeka yongaları ve gelişmiş yazılımlar aracılığıyla sağlanan otomasyonun, özel dahili ortamlara yetkisiz erişimi engellemek için daha güçlü doğrulama süreçlerine ihtiyaç duyduğunu gösteren bir uyarı niteliği taşıyor.