Emniyet teşkilatı, uygulamanın ilk haftasında 18 tutuklama ve 33 uyarı yapıldığını, algoritmanın bu süre zarfında yalnızca bir kez hatalı pozitif sonuç verdiğini raporladı.
Söz konusu uygulama, aşırı gözetleme ve demografik önyargı (demographic bias) potansiyeli nedeniyle gizlilik uzmanları ve hukuk savunucularının sert eleştirileriyle karşılaştı.
Melbourne Hukuk Fakültesi’nden Doçent Jake Goldenfein, bu yapay zeka sistemlerinin ağırlıklı olarak beyaz erkek yüzlerinden oluşan veri setleriyle eğitilmesi nedeniyle kadınlar ve beyaz olmayan bireyler üzerinde tarihsel olarak daha düşük doğruluk sergilediğine dikkat çekti.
Ayrıca Batı Avustralya Aborjin Hukuk Servisi, polis ile yapılan istişareleri göstermelik bularak uygulama noktalarının ve izleme listelerinin yerli toplulukları orantısız şekilde hedef alabileceği konusundaki endişelerini dile getirdi.
Batı Avustralya Polisi, veri tabanında eşleşmeyen kişilerin görüntülerinin derhal piksellendiğini ve silindiğini belirtse de eyaletin gizlilik denetçisi olan Bilgi Komiserliği Ofisi süreçteki denetim eksikliğini eleştirdi.
Diğer eyaletlerdeki emniyet birimleri tarafından yakından izlenen bu pilot çalışmanın sonuçlarının, ülke genelinde yapay zeka destekli kolluk kuvvetleri faaliyetleri için bir emsal teşkil etmesi bekleniyor.
Teşkilat, gelecekte teknolojinin belirli etnik kökenler veya topluluk grupları üzerinde orantısız bir etkisi olup olmadığını analiz etme taahhüdünde bulundu.