Bu altyapı değişikliği, veri gizliliği konusundaki artan endişeleri ve eğitimli bir modelin yeni verilerden çıktı üretme süreci olan yapay zeka çıkarımı (inference) maliyetlerini hedefliyor.
Avukatlar gibi profesyoneller, bu sayede hassas ayrıntıları dış sunuculara maruz bırakmadan özel müşteri verilerini kamuya açık bilgilerle çapraz sorgulayabiliyor.
Ayrıca yerel işlemler bulut hizmet ücreti gerektirmediğinden, Perplexity bu yöntemin hem bireysel aboneler hem de kurumsal müşteriler için karmaşık görevlerin toplam maliyetini düşürebileceğini belirtiyor.
Özellik şu anda en az 32GB belleğe sahip Apple Silicon Mac kullanan Pro, Max ve kurumsal abonelere sunuluyor.
Kullanıcılar, Perplexity uygulamasının teknik bir komut satırı kurulumu gerektirmeden otomatik olarak yüklediği Google’ın Gemma ve Alibaba’nın Qwen modelleri dahil olmak üzere çeşitli yerel Büyük Dil Modelleri (LLM) arasından seçim yapabiliyor.
Şirket, yerel modellerin en gelişmiş bulut sistemlerinden daha düşük kapasiteli olabileceğini kabul etse de yerleşik bir görselleştirme aracı, kullanıcıların performans ile gizlilik ve maliyet arasındaki dengeyi kurabilmeleri için donanım kullanımını ve jeton (token) tüketimini izlemelerine olanak tanıyor.