Meta, gigawatt ölçekli Prometheus süperkümesinin ilk fazını tamamladı

Ne açıklandı?

Meta, Ohio eyaletindeki New Albany veri merkezinde kurduğu gigawatt ölçekli Prometheus süperkümesinin ilk fazını tamamladığını duyurdu. Şirkete göre bu kapasite, yeni Muse temel modellerinin eğitiminde kullanıldı.

Prometheus şu anda birden fazla binaya yayılmış yüz binlerce GPU'dan oluşuyor. Tesis, fiber bağlantılarla tek bir makine gibi çalışacak şekilde tasarlandı. Meta, tam ölçekte yaklaşık 1 milyon GPU'ya ulaşmayı hedefliyor.

Donanım ve soğutma

Süperküme şu anda iki NVIDIA GPU platformu kullanıyor; NVIDIA Vera Rubin NVL72 tabanlı üçüncü platform ise yakında devreye girecek. İlk platform Catalina, GB200 NVL72'nin Ariel adlı iki raflı yapılandırmasını kullanıyor ve 72 GPU'yu tek bir hızlandırıcı gibi birleştiriyor.

Meta, verimlilik için kapalı devre sıvı soğutma gibi teknolojilere de yer veriyor. Açık donanım tasarımı Open Rack V3 de bu yapının parçası.

Eğitim verimliliği

Şirket, sistem kararlılığına odaklanarak Muse Wonder eğitiminde ön eğitim için %85'in, pekiştirmeli öğrenme için %90'ın üzerinde "goodput" (faydalı işlem oranı) elde ettiğini belirtiyor. Kesintiler arası ortalama süre (MTBI) yaklaşık 47 bin GPU saatinden, yapılan yazılım düzeltmeleriyle 54 bin GPU saatin üzerine çıkarıldı.