Google, PyTorch'u TPU'larda yerel çalıştıran TorchTPU'yu açık kaynak yaptı

Ne değişiyor?

Google, PyTorch modellerini Cloud TPU'larda doğrudan çalıştıran TorchTPU adlı backend'i açık kaynak yaptı. Proje, Meta'daki PyTorch ekibiyle birlikte geliştirildi ve 20 Ekim 2026'da PyTorch Conference'ta duyuruldu. Böylece TPU'lar, PyTorch için GPU ve CPU'nun yanında yerel bir cihaz olarak konumlanıyor.

Google, TorchTPU'nun önceki çözüm PyTorch/XLA'nın yerini aldığını ve tüm yeni iş yükleri için önerildiğini belirtiyor. Geliştiriciler mevcut kodlarında yalnızca torch.device("tpu") tanımlayarak TPU'ya geçebiliyor.

Nasıl çalışıyor?

TorchTPU, PyTorch'un PrivateUse1 arayüzüne bağlanıyor; tensörler sıradan PyTorch tensörü olarak kalıyor. Üç çalışma modu var: varsayılan Strict, hata ayıklama için Debug ve bellek trafiğini azaltan DeferAndFuse. Üretim hızı için torch.compile(backend="tpu") kullanılıyor; grafik StableHLO üzerinden OpenXLA'ya indirilip TPU makine koduna dönüştürülüyor.

Rakamlar

Google'ın kendi bildirdiğine göre TorchTitan ile Qwen 3 8B eğitiminde yüzde 52 MFU'ya ulaşıldı ve 8.192 Ironwood (TPU7x) çipine kadar neredeyse doğrusal ölçekleme görüldü. Bir ince ayar örneğinde adım süresi 11,49 saniyeden 2,78 saniyeye indi. Google yaklaşık 5.000 Hugging Face modelini sürekli test ediyor.

Ekosistem

Proje Apache 2.0 lisansıyla, Python 3.11 ve üzeri için PyPI'da v0.2.0 sürümüyle yayımlandı. TorchTPU ile birlikte vLLM-TorchTPU, SGLang-TorchTPU ve TorchTitan depoları da açıldı. Sunum tarafında FP8, MXFP4 ve NVFP4 kontrol noktaları destekleniyor.