HeyGen, Avatar IV modelini Google Cloud TPU'larına taşıdı
HeyGen, 18 milyardan fazla parametreli Avatar IV video üretim modelini Google Cloud'un Trillium (v6e) TPU'larına taşıdı. Ekip, torchax ve XLA kullanarak FSDP ve Ulysses dizi paralelliğiyle gerçek zamanlı akışta 1.86 kat hızlanma elde etti. Optimizasyonlar, piksel çıktılarının aynı kaldığını doğrulayan iki aşamalı kalite kontrolünden sonra devreye alındı.
