Verileri depolamak için yüksek bant genişlikli belleklere (HBM) dayanan geleneksel grafik işlem birimlerinin (GPU) aksine, Taalas’ın çipleri modele özel entegre devreler (ASIC) olarak işlev görüyor.
Erken aşama test çipleri, belirli modeller için standart donanımlardan yaklaşık 50 kat daha hızlı token üretimi gerçekleştirerek yapay zeka görevlerinde hızı önemli ölçüde artırmayı hedefliyor.
Bu satın alma, kod asistanları ve dijital aracılar gibi yüksek performanslı yapay zeka hizmetlerini hem daha hızlı hem de daha düşük maliyetli hale getirmeyi amaçlıyor.
Model verilerini fiziksel transistörlere yerleştiren AMD, büyük ölçekli yapay zeka altyapılarındaki devasa güç ve alan gereksinimlerini azaltabiliyor.
Taalas’ın teknolojisi, trilyon parametreli modelleri desteklemek için mevcut endüstri standartlarına kıyasla daha az hızlandırıcı gerektiren verimli raf ölçekli hesaplama platformları sunarak rakip sistemlere karşı güçlü bir alternatif oluşturuyor.
Söz konusu donanım uç noktada performans sunsa da çiplerin kalıcı olarak belirli bir yapay zeka modeline bağlı olması esneklik konusunda bir ödün verilmesine neden oluyor.
Modeldeki büyük güncellemeler, çipin metal katmanlarının fiziksel olarak yeniden düzenlenmesini gerektirdiğinden, bu teknoloji özellikle OpenAI veya Meta gibi istikrarlı ve uzun vadeli modeller kullanan yerleşik geliştiriciler için daha uygun görülüyor.
AMD, bu özel çipleri mevcut Instinct hızlandırıcılarıyla eşleştirmeyi planlıyor; bu yapılandırmada başlangıç veri işleme süreçleri GPU'lar tarafından yürütülürken, metin veya kodun hızlı üretimi Taalas tabanlı silikonlara devredilebilecek.