Google Cloud'da NVIDIA Vera Rubin altyapısı genel kullanıma açılıyor

A5X nedir?

Google Cloud ve NVIDIA, Vera Rubin altyapısına dayanan A5X örneklerinin önümüzdeki ay genel kullanıma (GA) açılacağını açıkladı. Sistem, NVIDIA Vera Rubin NVL72, ConnectX-9 SuperNIC'ler, Google Cloud'un Virgo ağı ve dördüncü nesil sıvı soğutma teknolojisini bir araya getiriyor.

Amaç, büyük ölçekli ajan tabanlı çıkarım ve pekiştirmeli öğrenme (reinforcement learning) iş yüklerini tek platformda toplamak. Google Cloud, Vera Rubin tabanlı altyapısını birden fazla sahada 960 bin Rubin GPU'ya kadar ölçeklemeyi planlıyor.

İlk müşteri ve kullanım

İlk erişimi, AlphaGo'nun yaratıcısı David Silver'ın Londra merkezli şirketi Ineffable Intelligence aldı. Şirket, deneyimden sürekli öğrenen "superlearner" sistemleri için platformu kullanıyor. Silver, Vera CPU ile Rubin GPU'lar arasındaki ve raf içindeki GPU'lar arasındaki yüksek bant genişliğinin pekiştirmeli öğrenme araştırmasını ileri taşıdığını söyledi.

Pazarlama şirketi WPP de Nemotron modelleri ve OpenShell referans mimarisiyle yaratıcı ajanlarını A5X üzerinde denedi. İlk testlerde normalde çok düğümlü küme gerektiren iş yükleri tek A5X örneğinde çalıştı.

Gizlilik ve verimlilik

Google Cloud, GB300 NVL72 tabanlı A4X Max gibi çıplak metal örneklerde raf ölçeğinde NVIDIA Confidential Computing sunacak ilk bulut sağlayıcılarından biri olacak. Ayrıca RTX PRO 6000 Blackwell tabanlı G4 VM'lerde gizli çıkarım ve ince ayar genel kullanıma açılıyor.

Enerji verimliliği tarafında iki şirket, Vera Rubin altyapısı için NVIDIA DSX MaxLPS yeteneklerini araştırıyor.