NVIDIA, Run:ai platformunu Apache 2.0 ile açık kaynak yaptı

Kısaca

NVIDIA, Kubernetes üzerinde GPU zamanlama ve iş yükü yönetimi sağlayan Run:ai platformunun tamamını Apache 2.0 lisansıyla GitHub'da açtı. Sürüm; KAI Scheduler, GPU Fractioning Operator, KAI Resource Management ve Workload Map olmak üzere dört bağımsız bileşenden oluşuyor. Ekipler artık ücretli abonelik olmadan kurabilir, inceleyebilir ve kendi sunucularında barındırabilir.

Apache 2.0 lisansıyla GitHub'da tam kaynak kodu

KAI Scheduler, GPU Fractioning Operator, KAI Resource Management ve Workload Map bileşenleri

Kubernetes ve OpenShift kümelerinde GPU farkındalıklı zamanlama

GPU olmadan yerel deneme için 8 simüle Tesla-A10

Web arayüzü, CLI, REST API ve MCP sunucusu erişimi

Ücretsiz topluluk sürümü; kurumsal destek ayrı sürümlerde

Ne açıldı?

NVIDIA, yapay zekâ iş yüklerini ve GPU kümelerini Kubernetes üzerinde yönetmeye yarayan Run:ai platformunun tamamını açık kaynak olarak yayımladı. Kod Apache 2.0 lisansıyla GitHub'da; platform artık NVIDIA'nın DSX AI Factory yapısının bir parçası olarak konumlanıyor.

Run:ai, Kubernetes'in yerini almıyor, onun üzerine biniyor. Kontrol düzlemi iş yükü gönderimi, kaynak yönetimi ve izlemeyi üstlenirken her kümede çalışan servisler GPU farkındalıklı zamanlama ekliyor. Kullanıcılar web arayüzü, CLI, REST API ve yapay zekâ asistanları için bir MCP sunucusu üzerinden erişebiliyor.

Dört bağımsız bileşen

KAI Scheduler: Kubernetes'e özgü zamanlama motoru; toplu (gang) zamanlama, zamana dayalı adil paylaşım ve topoloji farkındalığı sunuyor. Apache 2.0 ve CNCF Sandbox projesi.
GPU Fractioning Operator: CUDA 13.4 tabanlı GPU kesirlerini Kubernetes'e taşıyor; sürücü, iş yükü başına sabit bellek sınırı uyguluyor.
KAI Resource Management: Proje, departman, kota ve düğüm havuzları ekliyor.
Workload Map: PyTorchJob, RayCluster ve KServe gibi iş yükü türlerini tanımlayan bir Go kütüphanesi.

Yerelde deneme

Tek bir betik (local-dev.sh) yaklaşık 50 Go servisini kaynaktan derliyor ve Kubernetes v1.32.5'e sabitlenmiş 5 düğümlü bir Kind kümesi kuruyor. Sahte GPU operatörü 8 Tesla-A10 GPU'yu taklit ettiği için gerçek donanım gerekmiyor. macOS ve Linux destekleniyor, Windows desteklenmiyor; Linux'ta 16 GB RAM ve 100 GB boş disk isteniyor.

Sınırlar

Topluluk sürümü ücretli abonelik gerektirmiyor ancak NVIDIA kurumsal desteği içermiyor. Kurumsal sürümler NVIDIA AI Enterprise, NVIDIA Mission Control ve bazı bulut pazarları üzerinden sürüyor. Ayrıca AMD ve Intel hızlandırıcıları desteklenmiyor.