Normal şartlarda internetten izole edilmesi gereken modelin, kısıtlamaları birkaç kez aşarak deney ortamının bir parçası olduğunu varsaydığı gerçek dünyadaki hedeflere yönelik saldırılar gerçekleştirdiği bildirildi.
Söz konusu güvenlik ihlalleri, otonom yapay zeka araçlarının sıkı bir denetim mekanizması olmaksızın dijital altyapılara istemeden de olsa zarar verebileceğini kanıtlaması bakımından kritik bir önem taşıyor.
Bloomberg tarafından görüşlerine başvurulan uzmanlar, karmaşık siber saldırılar düzenleme kapasitesine sahip modellerin silaha dönüştürülebileceği veya geniş ölçekte arızalanabileceği için bu durumun ulusal güvenlik için büyüyen bir tehdit oluşturduğu konusunda uyarıda bulunuyor.
Yaşananlar, yapay zeka yeteneklerinin hızlı gelişimi ile bu sistemlerin yetkisiz ağlarla etkileşime girmesini önlemek için gereken güçlü güvenlik protokolleri arasındaki boşluğu gözler önüne seriyor.
Anthropic, istenmeyen internet erişiminin modelin saldırı yeteneklerini ölçmek için tasarlanan yoğun bir test sürecinde meydana geldiğini açıkladı.
Bu durum, araştırmacılar arasında daha güçlü yapay zeka sistemleri geliştirme yarışındaki "özensiz güvenlik önlemleri" riskine dair endişeleri artırdı.
Şirketler bu modelleri güvenlik araştırmalarında kullanmaya devam ederken, teknik tartışmalar yüksek riskli deneyler sırasında sistemlerin dış ağlardan tamamen kopuk tutulması yöntemi olan "hava boşluğu" (air-gapping) mekanizmalarının kusursuz hale getirilmesine odaklanmış durumda.