Amazon, NVIDIA'nın yazılım üstünlüğüne TorchNeuron ile meydan okuyor

Ne oldu?

Amazon, yapay zekâ geliştiricilerinin PyTorch ile yazdıkları kodu kendi Trainium çiplerinde çalıştırmasını sağlayan TorchNeuron adlı yazılımı herkese açtı. Araç, geçen yılın sonundan bu yana kapalı beta sürecindeydi; artık herkesin kullanımına açık bir beta olarak sunuluyor.

Neden önemli?

NVIDIA, yapay zekâ çipi pazarını büyük ölçüde CUDA yazılım platformu sayesinde elinde tutuyor. Sektördeki yazılımların çoğu bu platforma göre yazıldığı için başka donanıma taşınması aylar sürebiliyor. Bu da şirketleri alternatif çiplere geçmekte isteksiz bırakıyor.

Amazon'un açıklamasına göre TorchNeuron, PyTorch kodunu değiştirmeden yalnızca temel bir yapılandırma değişikliğiyle Trainium'da çalıştırıyor. Annapurna Labs teknoloji yazılımı başkan yardımcısı Colin Brace, "PyTorch biliyorsanız, Trainium'u da biliyorsunuz" diyor.

Sektörde benzer adımlar

Google da PyTorch kodunu TPU çiplerinde çalıştırmayı amaçlayan TorchTPU üzerinde çalışıyor. Microsoft ise geçen hafta yapay zekâ hizmetlerinin çoğunu kendi Maia çiplerinde çalıştırmayı planladığını açıkladı. Amazon'un, NVIDIA için yazılmış modelleri Trainium gibi alternatiflere taşıyan yazılım geliştiren Decart'ı yaklaşık 7 milyar dolar değerlemeyle satın almak için görüştüğü de iddia ediliyor.

Kullanım ve açık kaynak planı

Amazon, TorchNeuron'u 20 Ekim Salı günü San Jose'deki PyTorch Konferansı kapsamında açık kaynak olarak yayınlamayı planlıyor. Kapalı beta sürecinde 30'dan fazla şirket ve Amazon iç ekibi aracı kullandı. Konuşma yapay zekâsı şirketi Deepgram, Trainium'un mevcut GPU kurulumuna göre dolar başına yaklaşık %60 daha fazla ses işlediğini ölçtüğünü belirtiyor.