Ne oluyor?
The Information'ın haberine göre NVIDIA, internet ve telekomünikasyon sağlayıcısı Brightspeed'in binalarını küçük veri merkezlerine dönüştürmek için şirketle görüşüyor. Fikir ilk olarak Brightspeed'in ana şirketi Apollo Global Management yöneticilerine sunuldu; ardından NVIDIA'dan yazılı plan hazırlaması istendi.
NVIDIA, Brightspeed'in mevcut altyapısından bazılarına saha ziyareti ve ek veri talebinde bulundu. Şirketin tahminine göre bu sahalar toplamda yaklaşık 1 gigawatt hesaplama kapasitesi sağlayabilir.
Neden eski telekom binaları?
Brightspeed'in ülke genelinde yaklaşık 130 binası var. Bu binaların çoğu veri ve ses trafiği taşıyacak şekilde inşa edilmiş ve NVIDIA sunucularını çalıştıracak güç altyapısına sahip. Ancak bu, tesislerin doğrudan kullanıma hazır olduğu anlamına gelmiyor: soğutma sistemleri ve destekleyici altyapının kurulması, ayrıca yerel yönetimden izin alınması gerekiyor.
Yine de sıfırdan veri merkezi inşa etmeye kıyasla daha az bürokrasi ve yerel muhalefetle karşılaşılması bekleniyor.
Kapasite ve çipler
Habere göre NVIDIA, bu sahaların toplamda 2.200'den fazla Supermicro Vera Rubin NVL72 rafını barındırabileceğini hesaplıyor. Her rafta 72 Rubin GPU ve 36 Vera CPU yer alıyor.
Apollo Global Management'ın yapay zekâ donanımına önemli yatırımları bulunuyor. Şirket, SpaceX ile yaptığı 40 milyar dolarlık anlaşma kapsamında 5.000 NVL72 rafında yaklaşık 360.000 Vera Rubin GPU alacak. Kurulacak çiplerin sahipliği henüz net değil.
Daha küçük ve dağınık veri merkezleri
Büyük ve tek lokasyonda toplanmış kümeler eğitim için tercih edilse de NVIDIA yetkilileri, bu küçük sahaların birlikte çalışmasını mevcut yapay zekâ modellerini çalıştırmaya yarayan bir "çıkarım ağı" olarak tanımlıyor. Bu yaklaşım, insanlardan beş ila on kat daha fazla token kullanan yapay zekâ ajanlarının yaygınlaşmasıyla daha da önemli hale geliyor.
OpenAI ve Anthropic de benzer şekilde birden fazla küçük veri merkezi kurmayı değerlendiriyor. ABD'de ara seçimlerde veri merkezlerine yönelik oylamaların çoğunun kısıtlama yönünde çıkması ve ülke genelinde 300'den fazla yasak, yeni tesislerin önünü zorlaştırıyor.
