RSI, yapay zeka sistemlerinin kendi gelişim döngülerini yönlendirerek ilerlemeyi insanların denetleme yeteneğinin ötesine taşıyabileceği bir aşamayı temsil ediyor.
Uluslararası standartların oluşturulması kritik önem taşıyor, çünkü daha otonom yapay zeka araştırmalarına hızlı geçiş, güvenlik önlemlerinin yeteneklerle aynı hızda ilerlememesi durumunda kontrol kaybına yol açabilir.
OpenAI, parçalı veya koordinasyonsuz ulusal çabaların, tehlikeli yapay zeka ajanlarının ortaya çıkması veya kritik altyapılardaki zafiyetler gibi sınır ötesi felaket risklerini ele almakta yetersiz kalabileceğini savunuyor.
Şirket, teknik güvenlik önlemlerinin hız uğruna feda edildiği bir "en dibe yarış" senaryosunu önlemek için ortak güvenlik temellerinin gerekli olduğunu vurguluyor.
Bu endişeleri gidermek için OpenAI, Amerika Birleşik Devletleri'nin küresel bir yapay zeka güvenliği enstitüleri ağı aracılığıyla ortak ölçüm ve olay raporlama protokolleri oluşturma çabalarına liderlik etmesini öneriyor.
Bu standartlar, şirketler içindeki otonom araştırma miktarını değerlendirmeye ve otomatik süreçlerin ne zaman acil insan incelemesini tetiklemesi gerektiğini tanımlamaya odaklanacak.
Önerilen çerçeve, yeni modeller için zorunlu hükümet ön onayı veya lisanslama gerektirmeden net güvenlik ilkeleri sunmayı hedefleyerek hem açık ağırlıklı (open-weight) hem de kapalı model geliştiricilerini kapsayacak şekilde tasarlanıyor.