Moratoryum talebi, teorik olarak insan kontrolünün veya denetiminin ötesine geçebilecek sistemlerin geliştirilmesini durdurmayı amaçlıyor.
Söz konusu yasağın aciliyeti, kendi kendini geliştiren sistemlerin güvenlik açıklarını hızla keşfedip kötüye kullanma ve küresel dijital altyapıyı tehdit etme potansiyelinden kaynaklanıyor.
Teknolojiyi eleştirenler, bir model otonom geliştirme döngüsüne girdiğinde, gelişim hızının mühendislerin güvenlik önlemleri uygulama kapasitesini aşabileceğini savunuyor.
Şirketlerin en güçlü yapay zekaya ulaşmak için yarıştığı rekabet ortamında böyle bir yasak, veri merkezleri ve özelleşmiş çipler gibi fiziksel varlıklara harcanan sermaye giderlerini (capital expenditure) saf performans kazanımları yerine güvenlik odaklı araştırmalara yönlendirerek gelişim rotasını temelden değiştirebilir.
Yürürlüğe girmesi halinde düzenleme, modellerin doğrudan insan müdahalesi olmadan çekirdek algoritmalarını değiştirmesine olanak tanıyan spesifik teknik mekanizmaları hedef alacak.
Bu değişiklik, öncelikle model boyutunu ve verimliliğini artırmaya öncelik veren büyük bulut bilişim sağlayıcılarını ve yapay zeka geliştiricilerini etkileyecek.
Tartışmanın bir sonraki aşaması, yapay zeka araştırmalarının merkezi olmayan yapısı nedeniyle özel firmaların dahili kod yazma faaliyetlerini izlemenin zorluğu göz önüne alındığında, böyle bir yasağın küresel düzeyde nasıl uygulanacağını belirlemeyi içeriyor.