NVIDIA Vera CPU tanıtıldı: ajanlarda x86'ya karşı daha yüksek hız ve verim

Kısaca

NVIDIA, yapay zekâ ajanlarının CPU tarafındaki iş yüklerini hızlandırmak için Vera CPU'yu duyurdu. Şirket, 100 megawattlık veri merkezi karşılaştırmasında Vera'nın en hızlı ve en verimli x86 CPU'ları geride bıraktığını, watt başına 1,6 kata kadar daha fazla ajan çalıştırabildiğini iddia ediyor. Perplexity, DeepInfra ve ClickHouse gibi erken kullanıcılar üretim testlerinde hız artışı bildirdi.

Ajan iş yüklerinde yüksek hız ve yüksek kapasiteyi tek CPU'da birleştirme iddiası

En hızlı x86 CPU'ya karşı watt başına 1,6 kata kadar daha fazla ajan

En verimli x86 CPU'ya karşı 2 kata kadar daha hızlı ajan performansı

Perplexity, DeepInfra, ClickHouse, DuckLabs, Daytona ve Modal'dan erken üretim sonuçları

Güç kısıtlı veri merkezleri için watt başına iş optimizasyonu

Ajanlar neden CPU'ya bağlı?

NVIDIA'ya göre yapay zekâ ajanları yalnızca yanıt üretmiyor; bilgi arıyor, veritabanı sorguluyor, kod yazıp test ediyor ve harekete geçiyor. Bu adımların her biri CPU üzerinde çalışıyor ve ajanlar bir görev boyunca GPU muhakemesi ile CPU yürütmesi arasında gidip geliyor. Bu nedenle daha fazla ajanı aynı anda çalıştırmak, CPU kapasitesine ve güç sınırına dayanıyor.

Vera'nın iddiaları

NVIDIA, 100 megawattlık bir veri merkezi karşılaştırmasında tek bir Vera CPU'nun hem en hızlı hem de en verimli x86 CPU'dan daha iyi performans gösterdiğini belirtiyor. Şirkete göre Vera, en hızlı x86 CPU'ya kıyasla watt başına 1,6 kat daha fazla ajan çalıştırıyor; en verimli x86 CPU'ya kıyasla ise 2 kat daha hızlı ajan hızı sunuyor. Amaç, hız ve kapasiteyi dengelemek için farklı x86 parçalarını karıştırmak yerine tek bir CPU kullanmak.

Erken kullanıcıların sonuçları

NVIDIA, üretim benzeri testlerde şu sonuçları paylaştı:

Perplexity: Ajan tabanlı kodlama görevlerini geleneksel CPU'lara göre 1,5 kat daha hızlı çalıştırdı; Vera'yı yakında üretim sistemine kurmayı planlıyor.
DeepInfra: Üretim ajan iş yükünde en iyi x86 işlemcinin 2,2 katına kadar hıza ulaştı.
ClickHouse: Vera'ya özel ayar yapılmadan standart ikili dosya 176 çekirdekte neredeyse doğrusal ölçeklendi ve ClickBench donanım sıralamasında zirveye çıktı.
DuckLabs: Intel Xeon 6 temel çizgisinin medyan TPC-H SF1000 performansının yaklaşık 1,5 katına ulaştı.
Daytona: 1.000 ajan sandbox'ını 10,8 saniyede açtı; x86'da bu süre 88,4 saniyeydi.
Modal: Çekirdek başına sandbox veriminde karşılaştırılabilir x86 donanımına göre 2 kata kadar artış elde etti.

Neden önemli?

NVIDIA, güç kısıtlı veri merkezlerinde operatörlerin her watt için en fazla işi yapması gerektiğini vurguluyor. Vera, hızlı ve yoğun ajan iş yüklerini tek bir CPU'da birleştirmeyi hedefliyor. Şirket, CPU hakkında daha fazla ayrıntı için kendi blog yazısına yönlendiriyor.