NVIDIA, yerel sesli ajanlar için açık model Nemotron 3.5 Bolt E4B'yi yayınladı

Ne duyuruldu?

NVIDIA, yerel konuşma ajanları için tasarladığı açık küçük dil modeli Nemotron 3.5 Bolt E4B 4GB'yi yayınladı. Model; sesli asistanlar, oyun karakterleri ve robot arayüzleri gibi cihaz üzerinde çalışan senaryoları hedefliyor. GeForce RTX, Jetson, RTX Spark ve DGX Spark donanımlarında çalışıyor.

Teknik özet

Modelin toplam 8 milyar, etkin 4 milyar parametresi ve 64K bağlam penceresi var. NVIDIA'nın RTX üzerindeki testlerinde Q4_K_M sürümü 3,1-4,3 GB VRAM kullandı; GGUF dosyası ise 6,18 GB. Şirket, kalan belleğin konuşma ve görüntü modellerine yer bıraktığını vurguluyor.

Nasıl eğitildi?

NVIDIA, Gemma 4 E4B'yi temel alıp yalnızca pekiştirmeli öğrenmeyle (RLVR ve RLHF) eğitti; denetimli ince ayar (SFT) aşamasını tamamen atladı. Şirkete göre SFT araç çağırmayı iyileştirse de Gemma'nın sohbet kalitesini ve kısalığını bozuyordu. Eğitim veri setleri ve tarif kamuya açık.

Performans

NVIDIA'nın kendi ölçümlerine göre model, Gemma 4 E4B, Qwen3.5-4B ve Nemotron 3 Nano 4B'ye karşı 21 kıyaslamanın 15'inde öne geçti. En güçlü sonuç IHEval'de 84,8; en zayıfı Tau2-Bench'te 55,1 ve burada Qwen3.5-4B'nin yaklaşık 20 puan gerisinde. Ayrıca DFlash taslak modeliyle RTX 5070'de saniyede 272,6 token hızına ulaştığı belirtiliyor.

Neden önemli?

Model, yaklaşık 4 GB VRAM'de çok turlu araç çağırma ve kısa konuşmaya hazır yanıtlar sunuyor. Bu da bulut bağlantısı olmadan çalışan ajanların önünü açıyor.