Ne oldu?

Anthropic, halka arz yatırımcılarına Claude Mythos Preview modelinin AMD'nin MI355X GPU'larında çalışması için gereken yazılım işini yaklaşık üç günde tamamladığını söyledi. Şirkete göre bu iş daha önce altı ila 12 ay sürüyordu ve onlarca mühendis gerekiyordu.

Neden önemli?

Bir yapay zekâ modelini belirli bir şirketin çiplerine bağlayan düşük seviyeli kod, uzun süredir NVIDIA'nın CUDA platformunun en büyük savunma hattı sayılıyor. Anthropic'in iddiası, bu tür kodu günler içinde yazabilen bir modelin bu avantajı aşındırabileceğini gösteriyor.

Ayrıntılar

  • Üç günlük süre, tek bir Anthropic modelinin MI355X'te "kullanışlı" performans seviyesinde çalışmasını kapsıyor.
  • Mythos, çekirdeklerin (kernel) neredeyse yüzde 100'ünü taşıdı ya da yazdı.
  • Anthropic modellerini zaten NVIDIA ve AMD GPU'ları, Google TPU'ları ve AWS Trainium üzerinde çalıştırıyor; hesaplama kapasitesi tek bir havuz gibi yönetiliyor.
  • Şirket bu yıl AMD GPU'larıyla çalışmaya başladı; 2 gigavata kadar kapasite için anlaşma var.

Rekabetin arka planı

AMD'nin CUDA'ya karşılık gelen platformu ROCm ve programlama katmanı HIP, CUDA için yazılmış kodun dönüştürülmesini gerektiriyor. AMD yöneticileri, yapay zekânın bu dönüşümü giderek daha iyi yapabildiğini ve üretilen çekirdeklerin bazen elle ayarlanmış sürümlerden daha iyi sonuç verdiğini belirtmişti.