Gizli hesaplama nedir?
NVIDIA'nın gizli hesaplama katmanı, yapay zekâ modellerinin ve verilerinin çalışma sırasında donanım düzeyinde izole edilmesini sağlıyor. Şirket bu katmanı bugün Confidential Bare Metal adlı yeni bir dağıtım seçeneğiyle genişletti.
Yeni seçenek, ön cephe model geliştiricilerinin hassas iş yüklerini üçüncü taraf bulut, neocloud ve kurumsal altyapıda çalıştırırken modellerinin ve verilerinin kontrolünü ellerinde tutmasına imkân veriyor. Geliştiriciler böylece kendi yazılım yığınlarını, ana makine ve platform altyapı yazılımları dahil, kendileri sahiplenip işletebiliyor.
Üç dağıtım seçeneği
NVIDIA, gizli hesaplamayı tek bir güvenlik mimarisi altında üç seçenekle sunuyor:
- Confidential Bare Metal: Çıplak metal altyapı için
- Confidential Containers: Kubernetes ortamları için
- Confidential Virtual Machines: Sanallaştırılmış ortamlar için
Şirket ayrıca verinin aktarım sırasında korunması, platform bütünlüğünün ölçülmesi ve donanım düzeyinde erişim kısıtlamaları için yeni güvenlik kontrolleri getiriyor.
Kimler destekliyor?
Cohere, Confidential Bare Metal'i Cohere Model Vault'a entegre etmeyi planlıyor. Google Cloud ise desteği NVIDIA GB300 NVL72 sistemleriyle çalışan A4X Max örneklerine genişletecek.
CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale ve Vultr, gizli hesaplama dağıtımlarını destekleyeceklerini duyurdu. Cisco, Dell Technologies ve HPE gibi sistem ortakları da listede.
Donanım kapsamı
Destek artık NVIDIA Grace Blackwell NVL72'ye, yani raf ölçeğindeki NVL72 sistemlerine, ayrıca x86 tabanlı NVIDIA HGX Rubin NVL8 ve NVIDIA DGX Rubin NVL8 sistemlerine uzanıyor. Şirket, çözümün NVIDIA DSX OS ile de bulut sağlayıcılar için referans mimari olarak entegre edileceğini belirtiyor.
