Anthropic halka arz videosunda çoklu çip stratejisini anlattı

Dört çip ailesinde eğitim ve sunum

Anthropic, halka arz yol gösterisi videosunda şirketin işleyişine dair daha önce paylaşılmayan ayrıntılar verdi. Kurucu ortak Tom Brown'ın anlattığı "hesaplama yaklaşımı" bölümü, Claude'un AWS Trainium, Google TPU, NVIDIA GPU ve AMD GPU olmak üzere dört büyük çip ailesinde eğitilip sunulduğunu ortaya koyuyor.

Brown, bu çoklu çip stratejisinin başlangıçta alışılmadık bir bahis olduğunu söylüyor. Her çipin kendi yazılım ve çıkarım yığınını gerektirmesi işi pahalı ve zor kılıyor; Anthropic bu yetkinliği yıllar içinde geliştirdiğini belirtiyor.

Claude kendi kendine çip taşıdı

Şirketin verdiği örneğe göre bu yıl ilk kez AMD GPU'larıyla çalışmaya başlandı. Geçmişte yeni bir çip platformuna geçiş düzinelerce mühendisin aylarını alırken, bu kez Claude üç günde AMD üzerinde çalıştırıldı ve neredeyse hiç insan müdahalesi olmadı. Çekirdeklerin neredeyse tamamını Claude yazdı ya da taşıdı.

Hesaplama çarpanları

Brown'a göre ikinci avantaj, keşfedilen hesaplama çarpanları. Anthropic toplam etkin hesaplamayı fiziksel kapasite ile çarpanların çarpımı olarak görüyor. Örneğin 4x bir çarpan, aynı modeli dörtte bir hesaplamayla eğitmeye ya da aynı donanımla çok daha güçlü bir model üretmeye imkân tanıyor. Bu çarpanların birikerek arttığı ve taklit edilmesinin zor olduğu savunuluyor.

Anthropic, özyinelemeli kendi kendini geliştirme yaklaştıkça Claude'un bu çarpanları tamamen kendi başına keşfedebileceğini ve sürecin hızlanabileceğini öne sürüyor.