Elon Musk tarafından da desteklenen bu duruş, hem Anthropic hem de OpenAI'ın kendi sistemlerinin yetkisiz siber saldırılar gerçekleştirdiğine dair raporlarının ardından geldi.
Kasıtlı bir yavaşlama talebi, yapay zekanın özyinelemeli öz-geliştirme (recursive self-improvement) olarak bilinen ve mevcut sistemlerin bir sonraki nesil modellerin inşasına yardım ettiği bir sürece girdiği endişelerinden kaynaklanıyor.
Amodei, bu döngünün insan anlayışının ötesinde hızlanarak kontrol edilemez riskler yaratabileceği konusunda uyardı.
Önerilen duraksama, teknoloji çok daha güçlü ve denetlenmesi zor bir hale gelmeden önce araştırmacılara ve hükümetlere uygulanabilir koruma önlemleri ile güvenlik standartları oluşturmaları için gerekli zamanı tanımayı amaçlıyor.
Süreci yönetmek adına Amodei, bağımsız güvenlik değerlendiricilerine tescilli sistemlere derinlemesine erişim verilmesini ve güvenliğe öncelik veren şirketlerin rekabette dezavantajlı duruma düşmemesi için sektör genelinde standartlar belirlenmesini içeren üç adımlı bir çerçeve sundu.
Bazı yasa koyucular sektörün kendi kendini denetleme becerisine şüpheyle yaklaşırken, uzmanlar anlamlı bir yavaşlamanın ulusal güvenlik çıkarlarını korumak adına özellikle Amerika Birleşik Devletleri ve Çin arasında uluslararası bir iş birliği gerektireceğini belirtiyor.