NVIDIA, güvenli yapay zekâ ajanları için OpenShell referans mimarisini duyurdu

Kısaca

NVIDIA, kurumların yapay zekâ ajanlarını güvenli biçimde geliştirip denetlemesini sağlayan OpenShell Referans Mimarisi'ni tanıttı. Mimari; Vera Rubin altyapısı, Vera CPU'lar ve BlueField-4 DPU'lar üzerinde çalışan Sentry güvenlik yazılımını bir araya getiriyor. Anthropic, AWS, Google Cloud, Microsoft, OpenAI ve Meta gibi şirketler mimariyle çalışan ortaklar arasında.

Vera Rubin NVL72 ile ajan iş yüklerinde megavat başına 30 kat iş hacmi iddiası

Vera CPU'lar ajan koşumlarını ve araç kullanımını yönetiyor

BlueField-4 DPU'lar üzerinde Sentry ile silikon düzeyinde politika uygulama

Ajan sınır dışına çıkarsa milisaniyeler içinde karantina

RTX Spark, DGX Spark ve DGX Station ile uç noktalara uzanma

Canonical, Red Hat ve Microsoft Windows desteği

Ajanlar için tam yığın güvenlik

NVIDIA, GTC Berlin'de kurumsal altyapı ve uç sistemlerde yapay zekâ ajanlarını güvenli biçimde çalıştırmak için OpenShell Referans Mimarisi'ni duyurdu. Mimari, daha önce yayınlanan OpenShell güvenli çalışma zamanı yazılımının üzerine kurulu ve ajan geliştirme ile işletimini endüstriyel ölçeğe taşımayı hedefliyor.

Hangi bileşenler var?

Vera Rubin altyapısı: Kapalı ve açık modellerin çıkarımını çalıştırıyor. NVIDIA, ajan iş yüklerinde Vera Rubin NVL72 sistemlerinin megavat başına 30 kat daha yüksek iş hacmi sunduğunu belirtiyor.
Vera CPU'lar: Ajan koşumlarını (harness) ve araç kullanımını yönetiyor; NVIDIA'ya göre x86 işlemcilerin iki katı performans sağlıyor.
BlueField-4 DPU'lar: NVIDIA Sentry güvenlik yazılımını çalıştırarak ajan davranışını sürekli izliyor. Bir ajan yazılım sınırının dışına çıkmaya çalışırsa Sentry milisaniyeler içinde onu karantinaya alıp durduruyor.

Uçtan buluta

Mimari; perakende, sağlık, üretim, robotik, yazılım geliştirme ve telekomünikasyon gibi alanlarda RTX Spark, DGX Spark ve DGX Station sistemleriyle uç noktalara da uzanıyor. Canonical, Red Hat, Microsoft Windows ve Microsoft Execution Containers gibi kurumsal işletim sistemlerinde çalışıyor.

Geniş ortak ekosistemi

Anthropic, AWS, Cisco, CrowdStrike, Dell Technologies, Google Cloud, HPE, IBM, Meta, Microsoft, OpenAI, Palo Alto Networks, Perplexity, SAP, ServiceNow ve Siemens gibi şirketler mimariyle ajan dağıtımlarının güvenliğini artırmak için çalıştıklarını açıkladı. NVIDIA CEO'su Jensen Huang, "Yapay zekâ yeteneği ve güvenliği birlikte ilerlemeli" diyerek ajanların tanımlı sınırlar içinde özgürce çalışabilmesi gerektiğini vurguladı.