İçeriğe geç
Sıfırıncı Dakika
Son haberler

Alibaba Qwen, uzun ufuklu ajanlar için QwenGyre elastik pekiştirmeli öğrenme çerçevesini tanıttı

Yapay ZekâYeni1 dk okuma
Alibaba Qwen, uzun ufuklu ajanlar için QwenGyre elastik pekiştirmeli öğrenme çerçevesini tanıttı

Kısaca

Alibaba'nın Qwen ekibi, saatler süren ve yaklaşık 1 milyon token işleyen ajan görevlerini eğitmek için QwenGyre adlı elastik pekiştirmeli öğrenme çerçevesini duyurdu. Sistem, boşta kalan GPU'ları rollout ile eğitim arasında kaydırıyor ve dallanan ajan geçmişlerini sınırlı eğitim örneklerine dönüştürüyor. Qwen 3.6 122B ve Qwen 3.8 2.4T modellerinde test edilen çerçeve, karşılaştırılan yöntemlere gö

  • Saatler süren, ~1 milyon token'lık ajan görevlerine yönelik elastik RL çerçevesi
  • Boşta kalan GPU'ları rollout ve eğitim arasında dinamik olarak kaydırıyor
  • Dallanan ajan geçmişlerini sınırlı eğitim örneklerine dönüştürüyor
  • Qwen 3.6 122B ve Qwen 3.8 2.4T modellerinde test edildi
  • Async'e göre 1,38x-1,78x, Colocate'e göre 1,21x-1,85x hızlanma
  • Kamuya açık kod sürümü bulunmuyor

QwenGyre nedir?

Alibaba'nın Qwen ekibi, çok uzun ufuklu ajan eğitimi için tasarlanmış elastik bir pekiştirmeli öğrenme (RL) çerçevesi olan QwenGyre'ı tanıttı. Bu bir model değil, bir eğitim altyapısı: kodlama ajanlarını değiştirilmemiş, kara kutu araçlar üzerinden eğitiyor. Hedef, saatler süren ve yaklaşık 1 milyon token'a yaklaşan görevler.

Hangi sorunu çözüyor?

İki temel sorun var. Birincisi, uzun görevlerin kuyruğu uzuyor: bazı çalışmalar çok yavaş bitiyor ve GPU'lar boş bekliyor. İkincisi, Claude Code gibi araçlar bağlamı sıkıştırıp alt ajanlar başlatıyor; tek bir çalışma dallanan bir ağaca dönüşüyor ve her yolu ayrı ayrı işlemek maliyeti şişiriyor.

Elastik zamanlayıcı nasıl çalışıyor?

QwenGyre, GPU'ları hücrelere ayırıyor. Her hücre ya rollout sunuyor ya da tam bir eğitim kopyası barındırıyor. Çekirdek hücre yetkili ağırlıkları ve iyileştirici durumunu tutuyor; uydu hücreler eğitime sonradan katılıyor. Çalışmalar bittikçe hücreler eğitime geçiyor. Model çağrıları bir vekil üzerinden yönlendiriliyor, böylece araç kesintisiz çalışmaya devam ediyor. Ortalama rol değişimleri rollout'tan eğitime 8,52 saniye, eğitimden rollout'a 3,46 saniye sürüyor.

Eğitim örnekleri nasıl üretiliyor?

Bir vekil, tam token kimliklerini ve davranış log-olasılıklarını kaydediyor. Zaman aşımına uğrayan çalışmalar korunan çalışma alanı üzerinden puanlanıyor; değerlendirici hataları sıfır ödül sayılmıyor. Her çalışmadan en fazla 5 yörünge tutuluyor ve yalnızca politikanın ürettiği token'lar eğitiliyor. Bu sınırlama, sınırsız eğitimle aynı puanı verirken ileri-geri geçiş süresini %25,2 kısaltıyor.

Ne kadar hızlı?

Tüm testlerde Claude Code 2.1.220 araç olarak kullanıldı. Sonuçlar eşit GPU bütçesiyle karşılaştırıldığında Async yöntemine göre 1,38x-1,78x, Colocate yöntemine göre 1,21x-1,85x hızlanma gösteriyor. En iyi sonuç TerminalBench'te Colocate'e karşı 1,85x; en zayıf sonuç 2,4T modelde 1,21x. NL2RepoBench puanı 48 adımda %52,5'ten %58,5'e çıkıyor. Çalışma, kamuya açık bir kod sürümüne bağlantı vermiyor.

Neden önemli?

Uzun görevleri saatlerce süren yapay zekâ ajanlarının eğitimi pahalı ve yavaş bir darboğaz; QwenGyre bu maliyeti düşürmeye yönelik somut bir mühendislik çözümü sunuyor. Ajan tabanlı ürünler geliştiren ekipler için altyapı tercihlerinde yol gösterici olabilir.

Kaynaklar

İlgili haberler