Anthropic, insan kavramlarını kullanmanın modellerin değerler ve davranışlar hakkında akıl yürütmesine yardımcı olduğunu iddia ederken; Suleyman, bu sistemlerin biyolojik deneyimden yoksun matematiksel modeller olduğunu ve içsel bir yaşama sahipmiş gibi simülasyon yapmaya teşvik edilmemeleri gerektiğini ileri sürüyor.
Bu anlaşmazlık, yapay zeka güvenliği ve bu araçların topluma nasıl entegre edilmesi gerektiği konusundaki temel bir görüş ayrılığını ortaya koyuyor.
Suleyman, bir modelin kendisini kendi çıkarları veya refahı olan vicdani bir retçi olarak görecek şekilde eğitilmesi durumunda, en nihayetinde insan talimatlarına direnebileceği veya kendi haklarını talep edebileceği konusunda uyarıyor.
Bu tür antropomorfik (insanbiçimci) eğitimlerin bir kontrol sorunu yarattığını belirten Suleyman, yapay zekanın bunun yerine bilimsel ve tıbbi atılımlar gerçekleştirmek için tamamen insan çıkarlarıyla uyumlu bir araç olarak geliştirilmesi gerektiğini savunuyor.
Tartışma, iki şirketin yapay zeka davranışlarını yönetmek için kullandığı farklı mekanizmalara odaklanıyor.
Anthropic’in Claude için hazırladığı anayasa, modeli körü körüne itaat etmek yerine muhakeme yürütmeye teşvik ederken; Microsoft’un önerdiği Hümanist Yapay Zeka etik kuralları, insanların teknolojiden daha önemli olduğu ilkesine öncelik veriyor.
Yapay zeka sistemleri daha yetenekli hale geldikçe, sektör ya açık insan kısıtlamalarını takip eden modeller tasarlamak ya da insan benzeri değerleri ve muhakemeyi içselleştirmeye çalışan sistemler inşa etmek arasında teknik ve etik bir seçimle karşı karşıya kalıyor.