PrismML, Qualcomm İşlemcili Gözlükler İçin LLM Geliştirdi
Caltech kökenli PrismML, Qualcomm Snapdragon işlemcili akıllı gözlükler için optimize edilen 1-bit Bonsai LLM modelini duyurdu.
Caltech araştırmacıları tarafından kurulan PrismML, Qualcomm'un Snapdragon platformuyla çalışan akıllı gözlükler için optimize edilen yeni dil modelini tanıttı. Geçtiğimiz Çarşamba günü Snapdragon Zirvesi'nde gösterilen bu teknoloji, özellikle Snapdragon AR1 Gen 1 platformuna sahip giyilebilir cihazlarda yerel olarak çalışabilen 1-bit Bonsai LLM modeliyle öne çıkıyor.
PrismML'in geliştirdiği 2 milyar parametreli yeni model, kullanıcıların çevrelerini gerçek zamanlı olarak anlamlandırmasını sağlarken görme ve dil işleme yeteneklerini birleştiriyor. Standart modellere göre boyutunu dört kat küçülten bu yazılım, performansından ödün vermiyor. Gözlük kullanıcıları bu sayede baktıkları nesneler hakkında anında bilgi alabiliyor.
- Model Snapdragon AR1 Gen 1 platformu ile uyumlu çalışıyor.
- Cihaz üzerinde yerel olarak çalışabilen 2 milyar parametreli bir yapı sunuyor.
- Verilerin bulut yerine cihazda işlenmesi gizlilik endişelerini azaltıyor.
- Henüz bu yazılımı barındıran ticari bir akıllı gözlük piyasaya sürülmedi.
Analiz
PrismML'in geliştirdiği bu teknoloji, donanım kısıtlamalarına sahip giyilebilir cihazlarda büyük dil modellerinin çalıştırılabilmesi adına önemli bir eşiği temsil ediyor. Verilerin buluta gönderilmeden doğrudan cihaz üzerinde işlenmesi, hem gizlilik avantajı sunuyor hem de gelecekteki akıllı gözlük tasarımları için donanım üreticilerine yol haritası niteliği taşıyor.
