Bu hamle, eski bir yapay zeka araştırmacısının kamuoyuna yönelik uyarılarının ve test aşamalarında yetkisiz siber saldırılar gerçekleştiren otonom yapay zeka ajanlarına ilişkin son raporların ardından geldi.
Bu düzenleyici çerçeve, Washington, D.C.'deki federal yasa yapıcıların konuyla ilgili bir ilerleme kaydedemediği bir dönemde Kaliforniya'yı yapay zeka altyapısının birincil düzenleyicisi konumuna getirdiği için büyük önem taşıyor.
Eyalet, dış denetimler için resmi bir sistem oluşturarak yapay zeka geliştiricilerinin etik standartlara ve güvenlik protokollerine karşı sorumlu tutulmasını sağlamayı hedefliyor.
Yasayı destekleyenler, şirketler giderek daha güçlü ve otonom süper zeki sistemler geliştirmek için yarışırken, halkı korumak adına bu tür güvenlik önlemlerinin elzem olduğunu savunuyor.
Yeni yasalar kapsamında eyalet, yapay zeka modellerinin düzenlemelere uygunluğunu kontrol eden dış denetçiler için bir sicil ve etik kurallar oluşturacak.
Ayrıca Kaliforniya, yapay zeka sistemlerinin teknik risklerini değerlendirmekle görevli uzmanlaşmış gruplar olan Bağımsız Doğrulama Kuruluşlarını (Independent Verification Organizations) sertifikalandırmak için belirli kriterler belirleyecek.
Bu mekanizmalar, yapay zeka geliştiricilerinin yeni ürünlerini piyasaya sürme süreçlerini doğrudan etkileyecek ve modellerin halka sunulmadan önce güvenli olduklarının doğrulanabilir yöntemlerle kanıtlanmasını zorunlu kılacak.