Cihaz üzerinde hızlı ve gizli ajanlar
Liquid AI, LFM2.5-24B-A2B adlı yeni modelini Hugging Face blogunda tanıttı. Modelin öne çıkan vaadi, yapay zekâ ajanlarının internete veya buluta veri göndermeden doğrudan cihaz üzerinde çalışabilmesi.
Neden önemli?
Bulut tabanlı ajanlar her istekte veriyi uzak sunuculara taşır. Cihaz üzerinde çalışan modeller ise gizliliği korur, gecikmeyi düşürür ve bağlantı kopsa bile çalışmaya devam eder. Liquid AI'nin duyurusu tam da bu ihtiyaca yöneliyor.
Açık ağırlıklı paylaşım
Model, Hugging Face üzerinden erişilebilir şekilde yayınlandı. Bu, geliştiricilerin ve kurumların modeli kendi donanımlarında denemesine olanak tanıyor. "A2B" adlandırması, modelin seyrek (sparse) bir mimariyle yalnızca gereken parametreleri devreye alarak hız ve verimlilik sağladığına işaret ediyor.
Kime hitap ediyor?
Duyuru, özellikle yerel ajanlar, gizlilik hassasiyeti olan uygulamalar ve çevrimdışı çalışması gereken senaryolar için önemli. Modelin tam teknik detayları ve kıyaslama sonuçları için Hugging Face sayfasına bakılabilir.



