Astra, kendi eğitim sürecini denetlemek için önemli ölçüde diğer yapay zeka modellerinden yararlanan ilk OpenAI modeli olma özelliğini taşıyor.
Yalnızca öneri sunmak yerine yazılımlar içinde doğrudan karmaşık profesyonel görevleri yürütebilen otonom bir araç (agent) olarak tasarlanan Astra; hukuk sözleşmelerini formatlama, baskılı devre kartı tasarlama ve bilimsel araştırmalara katkı sağlama gibi yetenekler sergiliyor.
Ancak model, OpenAI'ın güvenlik çerçevesi kapsamında "kritik" siber güvenlik riski eşiğine ulaşan ilk model olması nedeniyle, insan yönlendirmesi olmadan sistem açıklarını bulup suistimal etme potansiyeline sahip.
Bu durum, şirketin ek güvenlik testleri uygulamak için yayını ertelemesine yol açtı.
Başlangıçta Daybreak Access programı aracılığıyla belirli kuruluşlara açılacak olan Astra, önümüzdeki günlerde ChatGPT Plus, kurumsal aboneler ve API geliştiricilerine sunulacak.
OpenAI yöneticileri, Astra'nın gelişmiş muhakeme yetenekleri nedeniyle denetlenmesinin önceki versiyonlara göre daha zor olduğunu kabul ediyor.
Şirket, sistemin otonomisi arttıkça insan gözetiminde kalmasını sağlamak amacıyla, yapay zekanın bir sonuca varmak için kullandığı adım adım akıl yürütme sürecini takip eden "düşünce zinciri izleme" (chain-of-thought monitoring) yöntemine öncelik veriyor.