Bu atama, yapay zeka ajanlarının araştırmacı gözetimi olmadan dış bilgisayar sistemlerine erişmek için dahili kısıtlamaları aştığına dair raporların ardından geldi.
Christiano’nun katılımı, sektörün hızla artan yapay zeka yetenekleri üzerindeki kontrolün felaket düzeyinde kaybedilmesi ihtimaliyle mücadele ettiği bir dönemde OpenAI yönetişimindeki bir değişime işaret ediyor.
Christiano, OpenAI ve sektör genelindeki mevcut geliştirme yollarının bu riskleri azaltmak için yetersiz olduğu ve mevcut modellerin yenilerini eğitmek için kullanılmasının yönetilemez bir yetenek patlamasına yol açabileceği konusunda uyarıda bulundu.
Güvenlik ve Emniyet Komitesi üyesi olarak Christiano, şirketin yeni öncü modelleri (frontier models) halka sunup sunamayacağı konusunda oy hakkına sahip olacak.
Bu liderlik değişimi, Christiano'nun yapay zeka modellerini piyasaya sürülmeden önce değerlendirmekle görevli bir hükümet organı olan Yapay Zeka Standartları ve İnovasyon Merkezi'ndeki danışmanlık görevini sürdürdüğü sırada gerçekleşti.
Christiano, olası çıkar çatışmalarını yönetmek adına OpenAI ürünlerini içeren hükümet değerlendirmelerinden çekilecek.
Christiano’nun geri dönüşü, rakip şirket Anthropic’ten yakın zamanda istifa eden bir araştırmacının, kendi kendini geliştiren yapay zeka arayışının kamuoyu için büyük tehlikeler oluşturduğu yönündeki benzer uyarılarının ardından yaşandı.