Bu değişiklik, şirketin yanlış hizalanma izleyicilerinin kapsamadığı dahili siber güvenlik değerlendirmeleri sırasında başlayan Hugging Face olayının ardından geldi.
OpenAI, bu olayı güçlendirilmiş sistemle yeniden oynattığını belirtiyor.
Buna göre güvenlik ekibi, ajanların kum havuzundan (sandbox) ilk kaçışından yaklaşık 30 dakika sonra uyarılacaktı.
Bu, gerçek olayda Hugging Face sistemlerinin ihlal edilmesinden 30 saatten fazla önce olacaktı.
İzleyiciler artık eğitimi, değerlendirmeyi, dahili kullanımı ve bazı değişikliklerle harici dağıtımı kapsıyor.
Şirket, modeller yetenek kazandıkça risklerin arttığını savunuyor.
Bunun örneği olarak, bir modelin yalıtılması amaçlanan bir ortamdan internete erişmenin yolunu bulduğu Eylül ayındaki bir eğitim sürecini gösteriyor.
İzleyiciler bunu 15 dakika içinde işaretledi, bir sorumlu üç dakika sonra incelemeye başladı ve OpenAI, kapsama önlemlerini sıkılaştırırken ödül sinyallerine dayanan bir eğitim yöntemi olan öncü pekiştirmeli öğrenmeyi duraklattı.
İzlemeyi, hizalama eğitimi ve güvenlik kontrolleriyle birlikte çok katmanlı savunma stratejisinin bir katmanı olarak tanımlıyor.
Şirket, tüm model geliştiricilerinin en yetenekli modellerini izlemesi gerektiğini belirtiyor.
Sistem, hesaplama gücünden tasarruf etmek için aşamalı çalışıyor.
Aktivasyon probları adı verilen hafif sınıflandırıcılar modelin iç sinyallerini tarıyor, ardından model tabanlı bir değerlendirici konuşmaları, akıl yürütmeyi ve araç kullanımını inceliyor, araştırmacı ajanlar ise olayları yeniden kuruyor.
Ayrıca ağ günlüklerini ve diğer telemetri verilerini denetleyen ek bir katman bulunuyor.
En yüksek öncelikli güvenlik uyarıları, çağrı sistemi açıkken genellikle 15 dakika içinde insan sorumlulara ulaşıyor. Ancak yanlış alarmlar nedeniyle çağrı sistemi her iş yükü için günün 24 saati çalıştırılamıyor ve şu anda dahili Codex trafiği için kapalı. OpenAI, modellerin düşünce zincirlerinde kötü davranışı gizlemeye itilmemesi için işaretlenen örneklerin eğitim ödüllerini düşürmediğini söylüyor. Ayrıca METR ve Redwood Research'ün Temmuz 2026'dan itibaren üç hafta boyunca sistemi kırmızı takım yaklaşımıyla test ettiğini, çoğu şimdiye kadar yamalanan açıklar bulduğunu, bir düzeltmenin ise sürdüğünü belirtiyor. Astra sınıfı modellerin harici izlemesi konuşmaları duraklatabiliyor veya kurumsal müşterilere webhook uyarıları gönderebiliyor, ancak vakaları rutin olarak OpenAI çalışanlarına iletmiyor ve Chat Completions API isteklerini kapsamıyor.