Bu maliyet dengelenmesi, şirketin teknoloji müdürünün Uber'in 2024 yapay zeka bütçesinin tamamını yılın başında tükettiğini açıklamasının ardından geldi.
Bu eğilim, büyük ölçekli işletmelerin yapay zeka altyapısını yönetirken kullanım artışıyla beraber maliyetlerin kontrolden çıkmasını önlemek için benimsediği stratejik değişimi yansıtıyor.
Uber, belirli görevleri en uygun maliyetli modellere yönlendirerek ve yapay zeka modellerinin işlediği temel veri birimleri olan token kullanımı üzerine katı sınırlar koyarak bu tasarrufları sağladı.
Örneğin şirket, etkileşimli oturumları 400.000 token ile sınırlandırıyor ve israfı önlemek amacıyla mühendislere terminalleri üzerinden gerçek zamanlı maliyet takibi sunuyor.
Şirket ayrıca, temel verileri genel erişime açık olan ve genellikle daha düşük maliyetli olan açık ağırlıklı (open-weight) modelleri deneyerek yüksek maliyetli stratejilerden uzaklaşıyor.
CTO Praveen Neppalli, kısıtlamasız kullanım döneminden çıkarak belirli görevleri mevcut en verimli modelle eşleştiren daha disiplinli bir yaklaşıma geçtiklerini belirtti.
Otomatik kodlamanın ötesinde, bu araçları kullanan çalışan sayısı dört kattan fazla artarken, mühendisler günümüzde günlük 30.000'den fazla ajan tabanlı görev yürütüyor.