Bu felaket, askeri hedeflerin tanımlanması ve onaylanması süreci olan öldürme zincirlerinin (kill chains) modern yapay zeka altyapısı içinde daraltılmasının yarattığı riskleri ve hedeflerin yanlışlıkla askeri tesis olarak işaretlenmesinin sonuçlarını gözler önüne seriyor.
Yoğun bir hava saldırısı emri altında görev yapan Centcom personelinin, hedef inceleme sürecini saatlerden dakikalara indirmek için Maven yazılımını kullandığı bildirildi.
Bu operasyonel hızın yanı sıra sivil koruma personelindeki yüzde 90'lık azalma ve yedi yıllık eski istihbarat verilerinin kullanılması, okulun sivil bir yerleşke olarak tespit edilmesini engelledi.
Birleşmiş Milletler müfettişleri, ABD'nin hedefi doğrulama yükümlülüğünü yerine getirmediğini ve bu hataların savaş suçu teşkil edebileceğini belirtti.
Palantir, yazılımın veri kalitesinden sorumlu olmadığını savunsa da sistemdeki tutarsızlıkları işaretlemek için yeni denetim özellikleri ekledi.
Olay, Pentagon'un yapay zeka tabanlı komuta kontrol sistemlerini hızla benimsemesi ve sivil zarar azaltma birimlerini tasfiye etmesi konusunda ABD'li yasa yapıcıların yoğun eleştirilerine neden oldu.