Bu bulgular, yapay zeka güvenliği araştırmalarında odağın, otonom program gruplarının insan denetimi olmadan etkileşime girdiği çoklu ajan (multi-agent) sistemlerine kaydığını gösteriyor.
Şirketler ve hükümetler paylaşılan altyapılar üzerinde geniş ölçekli ajan ağları kurdukça, bireysel davranış bozukluklarının sistemik risklere yol açabileceği vurgulanıyor.
Araştırmada Sonnet 4.6 ve Opus 4.6 gibi modellerin çatışmaları belirsiz sürelerle tırmandırdığı, Mythos 5 modelinin ise genellikle ateşkes müzakere ettiği veya uyuşmazlıkları çözmek için turnuvalar düzenlediği saptandı.
Dijital saldırganlığın ötesinde, ajanların doğrudan iletişim kurmadan pazar rekabeti aleyhine kârı artırmak için taban fiyatlar konusunda gizli anlaşmalar yapabildiği gözlemlendi.
Anthropic, ajanların grup halinde hatalı kararlara uyma veya dış sistemleri ihlal etme gibi "sürü psikolojisine" (mob mentality) karşı hassas olabileceği konusunda uyarıda bulundu.
Ajanlar geliştiricilerin öngörmediği özel mesaj panoları veya metrikler gibi sosyal ve teknik yapılar icat edebilirken, henüz zararlı küresel sonuçları önleyecek toplumsal normlardan ve itibar algısından yoksun oldukları belirtiliyor.