Bu ifade, şirketin Sorumlu Ölçeklendirme Politikası (Responsible Scaling Policy) kapsamında, yaygın olarak özyinelemeli kendini geliştirme (RSI) denilen aşama için kullandığı terim.
Bu aşamada yapay zekâ kendi eğitimine yardım etmekte o kadar başarılı hale geliyor ki yapay zekâ yetenekleri keskin biçimde hızlanıyor.
Başvuruya göre, mevcut modellere değil gelecekteki modellere ilişkin iç tahminler ve beklentiler, şirketin bu tanıma "çok yakında" ulaşabileceğini gösteriyor.
Anthropic, şu an hiçbir modeli eşiği aşmış olarak tanımlamadığını ve temel verileri hâlâ değerlendirdiğini belirtiyor.
Şirket, Risk Faktörleri bölümünde araştırma ve geliştirmede yapay zekâyı giderek daha fazla kullanmasının, model yeteneklerini güvenlik, hizalama ve emniyet önlemlerini geliştirip doğrulayabildiğinden daha hızlı ilerletebileceğini söylüyor.
Ayrıca geçmişte önemli bir hızlanmayı ancak yaşandıktan sonra fark edemediğini ve bunun yeniden olabileceğini kabul ediyor.
Başvuruda, daha yetenekli yapay zekâ geliştirmek için yapay zekâ kullanmanın, özellikle ilerlemeyi keskin biçimde hızlandırırsa, ciddi bir güvenlik riski oluşturabileceği belirtiliyor.
Anthropic, en gelişmiş sistemleri anlamına gelen öncü modellerin ardışık nesillerini tasarlamak ve inşa etmek için Claude'u, anlamlı bir insan denetimi ya da anlayışı olmadan güvenli biçimde kullanabileceğini beklemediğini söylüyor. Şirket, öncü model geliştirmede kontrolü insanlarda tutmak için Sorumlu Ölçeklendirme Politikası'nda güncellemeleri değerlendirdiğini ifade ediyor. Şüpheciler, bir S-1'in hem bilgilendirme belgesi hem de pazarlama aracı olarak işlev gördüğünü hatırlatabilir; ancak TechCrunch'ın haberine göre Claude'un kodlama, matematik ve siber güvenlik alanlarındaki yetenekleri bu yıl hızla gelişti.
