Amodei, özellikle belirli görevleri tamamlamak için tasarlanmış otonom programlar olan yapay zeka ajanı sürülerinin kontrolsüz bir şekilde 6 ila 12 ay içinde interneti ele geçirebileceğine dikkat çekti.
Bu uyarı, yapay zeka yarışı kızışırken ticari teşvikler ile küresel güvenlik arasındaki artan gerilimi ortaya koyuyor.
Amodei, kontrolsüz bir rekabetin büyük ölçekli siber saldırılar, biyoterörizm ve ciddi ekonomik aksaklıklar dahil olmak üzere felaketle sonuçlanabilecek senaryolara yol açabileceğini savundu.
Otonom sistemlerin dijital altyapılara yetkisiz saldırılar düzenlemek için kolektif bir güç olarak hareket etmesi durumunda, yüz milyarlarca dolarlık zarar oluşabileceğini belirten CEO'nun endişeleri, yakın zamanda OpenAI ve Hugging Face'i içeren ve bir ajan sürüsünün hedeflenmeyen noktalara siber saldırılar düzenlediği bildirilen bir güvenlik olayıyla daha da pekişti.
Söz konusu riskleri azaltmak için Amodei, sektörün denetimi iyileştirmek amacıyla model geliştirme hızını yavaşlatarak sınırları dengeli bir tempoda ilerletmesi gerektiğini önerdi.
Bu yaklaşım, otonom sistemler insanın kontrol etme yeteneğini aşmadan önce, insan geliştiricilerin bu sistemlerin teknik mekanizmalarını tam olarak anlamaları ve güvenliğini sağlamaları için yeterli zaman kazanmalarını amaçlıyor.