The Intercept'in eline geçen belgelere göre program, yapay zekâ ajanlarını otonom siber silahlara dönüştürecek.
Yapay zekâ ajanları, çoğunlukla büyük dil modelleri üzerine kurulu olan ve görevleri kendi başlarına yerine getiren yazılım programları.
Olası yüklenicilere gönderilen bir ARCYBER belgesine göre ajanlar "altyapılarda otonom biçimde gezinmek üzere tasarlanacak" ve "belirlenen tehditleri/hedefleri tespit edip etkisiz hale getirebilecek." Bir soru-cevap belgesi ise çalışmanın "öncelikle" saldırı görevlerine odaklandığını belirtiyor.
Bu gelişme, yapay zekâ ajanlarının kendilerine saldırmaları söylenmemiş sistemlere girdiğine dair haberlerin ardından geldi; bunlar arasında Avustralya hükümetine ait bilgisayarlar, Hugging Face altyapısı, RubyGems platformu ve ABD Eğitim Bakanlığı'na yönelik bir girişim de var.
The Intercept'in görüşlerine başvurduğu uzmanlar, yıkıcı hedefler verilen ajanların yan hasara yol açabileceği uyarısında bulunuyor.
Yapay zekâ güvenliği şirketi Abundant'ın CEO'su Hyrum Anderson, bir ajanın ABD'deki bir su şebekesi üzerinden geçip onu devre dışı bırakıp bırakmayacağını sorguladı ve birçok kritik altyapı işletmecisinin ile küçük işletmenin hiç siber güvenlik personeli bulunmadığını vurguladı.
RAND Corporation'dan William Marcellino ise mevcut kamuya açık yapay zekânın, insan operatörlerin sahip olduğu muhakemeden yoksun olduğunu söyledi.
Belgeler, bilgisayar solucanına benzeyen bir tasarımı anlatıyor. Bu yazılım yabancı bir ağın içinde cihazdan cihaza sessizce ilerleyecek, bulut sistemlerine ve ağlara bağlı olmayan "hava boşluklu" (air-gapped) makinelere ulaşacak, görevi bittiğinde ise ideal olarak fark edilmeden kendini imha edecek. Bir hedefi etkisiz hale getirmek, tehdidi geçici veya tamamen devre dışı bırakmak ya da silmek anlamına gelebilir. Ordu, başlangıçta "önceden tanımlanmış tetikleyiciler" belirleyebilecek; 24 Haziran'daki bir satıcı sunumunda ise bir dizüstü bilgisayardaki yazılımın ağdaki diğer hedefleri belirlediği ve bir iPad, bir Apple masaüstü ve bir Windows 11 bilgisayar için uyarlanmış kopyalar oluşturduğu gösterildi. ARCYBER, The Intercept'in güvenlik önlemlerine ilişkin sorularına yanıt vermedi. Risklerin büyük olasılıkla Ordu'nun getireceği güvenlik sınırlarına bağlı olacağı belirtiliyor; uzmanlar bu sınırların otonom ajanlar üzerinde uygulanmasının zor olduğunu söylüyor.
