OpenAI ve Broadcom dokuz ayda tasarlanan Jalapeño çipini tanıttı
- Kaynak
- OpenAI
- Saat
- 13:19
- Ağırlık
- 95/100
OpenAI ve Broadcom, büyük dil modelleri (LLM) için özel olarak optimize edilmiş, Jalapeño adını verdikleri özel tasarım bir çıkarım çipi geliştirdiklerini duyurdu. İlk tasarımdan üretim aşamasına kadar dokuz ayda tamamlanan projenin, OpenAI’ın kendi yapay zeka modellerinin kullanımıyla önemli ölçüde hızlandığı belirtiliyor.
Bu çip, yapay zeka iş yüklerini daha hızlı, güvenilir ve enerji verimli hale getirmeyi amaçlayan çok nesilli bir hesaplama platformunun temelini oluşturacak. Genel amaçlı bilgi işlem yerine doğrudan çıkarım işlemleri için sıfırdan tasarlanan Jalapeño, veri hareketini azaltarak ve işlem, bellek ile ağ kaynaklarını dengeleyerek watt başına performansı maksimize ediyor.