NVIDIA ve Oracle, Vera Rubin'i çok gigawatt ölçeğine taşıyor: Vera CPU'lar OCI'da

OCI'da Vera Rubin dönemi

NVIDIA ve Oracle, Oracle Cloud Infrastructure (OCI) üzerindeki Supercluster'ları NVIDIA Vera Rubin NVL72 sistemleriyle çok gigawatt ölçeğine genişletmeyi duyurdu. Amaç, yapay zekâ eğitimi, çıkarım ve ajan uygulamalarına yönelik artan talebi karşılamak.

Aynı zamanda Vera Rubin NVL72 ve NVIDIA Vera CPU'lar OCI'da genel kullanıma açıldı. Böylece müşteriler, GPU yoğun eğitim işleri ile ajanların model çağrıları arasında yaptığı CPU yoğun işleri ayrı ayrı ölçekleyebilecek.

Neden önemli?

Yapay zekâ ajanları yalnızca yanıt üretmiyor; araç çağırıyor, kod çalıştırıyor ve veri getiriyor. Bu CPU yoğun işler yavaşladığında GPU'lar boş bekleyebiliyor. Vera CPU'lar, yüksek tek çekirdek performansı ve bellek bant genişliğiyle bu bekleme süresini azaltmayı hedefliyor.

OCI Supercluster'lar, 72 GPU'yu NVLink ile birbirine bağlayan NVL72 raf sistemlerini Oracle Acceleron ağı, NVIDIA Spectrum-X Ethernet ve BlueField-4 DPU'larla birleştiriyor. Şirketler ayrıca x86 tabanlı sekiz GPU'lu HGX Rubin NVL8 platformunu da planlıyor.

OpenAI, Abilene'de 100 binden fazla NVIDIA Blackwell GPU'lu bir OCI Supercluster üzerinde GPT-6 Astra'yı eğitip hizmete sunduğunu gösterdi. NVIDIA, ortak CUDA yazılım temelinin donanım nesilleri arasında geçişi kolaylaştırdığını belirtiyor.