OpenAI, insan incelemesi öncesinde kişisel verileri temizlemek için bir gizlilik filtresi kullansa da bu aracın bazen başarısız olabildiğini ve yapay zekanın fazla yaltakçı (sycophantic) veya insanbiçimci (anthropomorphic) olup olmadığını denetleyen çalışanlara mahrem detayların sızabildiğini kabul ediyor.
Bu uygulama, dijital gizlilik varsayımıyla platformu kullanan 900 milyon kullanıcı için önemli bir güvenlik açığına işaret ediyor.
İnsan incelemesine imkan tanıyan veri eğitimi ayarı; ücretsiz, Plus ve Pro hesapların tamamında varsayılan olarak açık geliyor ve kullanıcıların sohbetlerinin incelenmesini engellemek için bu özellikten manuel olarak çıkması (opt-out) gerekiyor.
Yapay zeka gelişiminin yalnızca büyük veri kazıma işlemlerine değil, aynı zamanda yazılımın sosyal davranışlarını düzeltmek için saatte 50 dolardan fazla kazanan yüklenicilerin sürekli manuel müdahalesine dayandığı görülüyor.
İnceleme süreci; istemin okunması, kullanıcı niyetinin özetlenmesi ve dört potansiyel yanıtın bir ile yedi arasındaki bir ölçekte puanlanması aşamalarından oluşuyor.
Çalışanlara, aşırı emoji kullanımı gibi "yapay zeka dili" (AI-speak) örneklerini cezalandırmaları ve botun duyguları varmış gibi izlenim vermeden profesyonel kalmasını sağlamaları talimatı veriliyor.
Kurumsal ve eğitim hesaplarında bu özellikler kapalı tutulurken, bireysel kullanıcıların verileri görüşme silindikten sonra bile model iyileştirme amacıyla kullanılabiliyor.