PrismML teknoloji devi Apple değerlendirmelerini sürdürürken Bonsai 27B
- Kaynak
- CNBC
- Saat
- 19:39
- Ağırlık
- 94/100
Caltech'ten ayrılan bir Silikon Vadisi girişimi olan PrismML, doğrudan mobil cihazlarda çalışmak üzere tasarlanmış, Alibaba'nın açık kaynaklı Qwen modelinin yüksek düzeyde sıkıştırılmış bir versiyonunu yayınladı. Bonsai 27B adı verilen yeni modelin, dahili verilerin depolanma şeklini basitleştirerek bellek gereksinimlerini 54 GB'tan 4 GB'ın altına düşürdüğü bildiriliyor.
Bu optimizasyon, 27 milyar parametreli modelin bir iPhone 15 veya daha yeni modellerde çalışmasına olanak tanıyarak standart versiyonlara göre daha hızlı yanıt süreleri ve önemli ölçüde daha düşük enerji tüketimi sunuyor. Apple, daha karmaşık yapay zeka görevlerini buluttan yerel donanıma taşımayı hedeflediği için şu anda bu teknolojiyi değerlendiriyor.