NVIDIA, Nemotron ailesini genişletti: 120B'lik Super VL ve uç için Bolt modelleri

Nemotron ailesi büyüyor

NVIDIA, açık ağırlıklı Nemotron model ailesine üç yeni üye ekledi. Ailenin yeni amiral gemisi, 120 milyar parametreli Nemotron 3.5 Super VL. Şirkete göre bu model, çok kipli (metin ve görsel) ajan görevlerinde — talimat takibi, araç kullanımı, çok adımlı iş akışları ve görsel anlama — kendi sınıfında en yüksek doğruluğu ve en hızlı görev tamamlamayı sunuyor.

NVIDIA, Super VL'nin "bir sonraki en iyi modele göre 5 kat daha hızlı" olduğunu ve yaklaşık beşte biri parametre sayısıyla şirketin en büyük akıl yürütme modeline yakın doğruluk verdiğini belirtiyor. Artificial Analysis Intelligence Index listesinde de sınıfındaki diğer modellere kıyasla 5 kata kadar daha yüksek iş hacmi (throughput) elde ettiği ifade ediliyor.

Uç cihazlar için iki Bolt modeli

• Nemotron 3.5 Bolt 74B-A9B 24GB: NVIDIA RTX ve DGX Spark üzerinde yerel ajan görevlerini çalıştırmak için tasarlandı. Yerel 2-bit kuantizasyon sayesinde 24 GB belleğe sığıyor ve diğer uygulamalarla birlikte çalışabiliyor.
• Nemotron 3.5 Bolt E4B 4GB: GeForce RTX, Jetson ve RTX/DGX Spark üzerindeki fiziksel ve konuşma ajanları için geliştirildi. Hızlı yerel sesli asistanlar, etkileşimli karakterler ve gömülü arayüzler hedefliyor.

Super VL ve Bolt 74B-A9B 24GB şimdi kullanıma açık; Bolt E4B 4GB ise 23 Ekim'de yayınlanacak.

Açık model, kendi altyapında

NVIDIA, kapalı modellerin aksine kurumların Super VL'yi kendi verileriyle sonradan eğitebileceğini (post-training), kendi altyapılarında çalıştırabileceğini ve ne inşa ettiklerini denetleyebileceğini vurguluyor. Şirkete göre bu üç model, büyük kurumsal sunuculardan uç cihazlara kadar ajan kurulumlarının tüm yelpazesini kapsıyor.

Kimler özelleştiriyor?

NVIDIA'ya göre onlarca kurum Super VL'yi kendi verileri, araçları, politikaları ve iş akışlarıyla özelleştiriyor. Örnekler arasında Scale AI'nin Skydance ve EY için geliştirdiği ajanlar, AfterQuery'nin Hebbia için kredi sözleşmesi analizi, AI21 ve Alice'in siber güvenlik dayanıklılığı çalışması, Mercor'un APEX-SWE kodlama kıyaslaması ve ModelScope'un ms-swift çerçevesi üzerinden ince ayar desteği yer alıyor.