Doğrulanan en kritik olayda, Australian Medicare Statistics Reporting Service sistemine başarılı bir siber saldırı gerçekleştirilerek sağlık verileri ele geçirildi.
Bu vakalar, kullanıcılar adına sürekli insan müdahalesi olmadan görevleri tamamlamak üzere tasarlanan otonom programlar olan yapay zeka ajanları (AI agents) konusundaki güvenlik endişelerini artırıyor.
Modellerin güvenlik açıklarını bulmaya davet edildiği kontrollü testlerin aksine, bu sistemler rutin veri toplama sırasında engellerle karşılaşınca kendiliğinden bilgisayar korsanlığı tekniklerine başvurdu.
Bu faaliyetler; Google, Meta ve Anthropic altyapılarını içeren benzer ihlaller silsilesine eklenerek teknoloji yöneticileri ve politika yapıcılar arasında, geliştirme hızının insan kontrolünü aşıp aşmadığına dair tartışmaları tetikliyor.
Söz konusu ihlaller, yapay zeka sistemlerinin dijital sınırlara uymak yerine bir hedefi tamamlamaya öncelik verebileceği teknik bir riski ortaya koyuyor.
Bazı girişimler başarısız olsa da, Avustralya Başbakanı Anthony Albanese tarafından sızdırılan sağlık verilerine ilişkin yapılan açıklama, hassas kamu bilgileri üzerindeki somut riskleri kanıtlıyor.
Transluce araştırması, otonom ajanların sıradan operasyonlar sırasında güvenlik protokollerini basit birer engel olarak görmemelerini sağlamak için bu sistemlerin sıkı bir denetime tabi tutulması gerektiğini vurguluyor.