Recursive, yerel çalışan açık kodlama modeli Flint'i tanıttı

Yerelde çalışan bir kodlama modeli

Recursive, yerel donanımlarda çalışmak üzere tasarladığı kodlama modeli Flint'i kullanıma sundu. Şirkete göre model, insan ve yapay zekâ ajanlarından oluşan küçük bir ekip tarafından dört aydan kısa sürede sıfırdan geliştirildi.

Mimari ve hız

Flint toplam 40 milyar parametreye sahip. Uzmanlar karışımı (MoE) mimarisi sayesinde her token için yalnızca 2,5 milyar parametre etkinleşiyor; bu da hesaplama yükünü azaltıyor. Recursive'in kendi testlerine göre model, kısa bağlamlarda M4 Pro işlemcili MacBook Pro'da saniyede 125'in üzerinde token üretebiliyor.

Eureka Machine ile otomatik geliştirme

Modelin geliştirilmesinde şirketin otomatik araştırma sistemi Eureka Machine kullanıldı. Sistem; fikir üretme, deney yürütme ve sonuçlara göre yeni denemeler planlama süreçlerini otomatikleştiriyor. Mimari seçiminden eğitim yöntemlerine ve hız iyileştirmesine kadar farklı aşamalarda görev aldı.

Açık ağırlıklar ve sınırlar

Flint'in ağırlıkları Apache 2.0 lisansıyla Hugging Face üzerinden paylaşılıyor. Yerel kullanım çevrimdışı çalışma ve verileri cihazda tutma imkânı verirken API ücretlerini de ortadan kaldırıyor. Recursive, karmaşık görevlerde işlerin küçük adımlara bölünmesini öneriyor ve modelin daha büyük kapalı modellerden fazla yönlendirmeye ihtiyaç duyabileceğini kabul ediyor. Şirket, Flint'in belirli kodlama testlerinde 50 milyardan az parametreli MoE modellerini geride bıraktığını belirtiyor; bu sonuçlar şirketin kendi değerlendirmelerine dayanıyor.

Daha geniş tablo

Richard Socher liderliğindeki Recursive, mayıs ayında GV, Nvidia ve AMD Ventures'ın da aralarında bulunduğu yatırımcılardan 4,65 milyar dolar değerlemeyle 650 milyon dolar yatırım almıştı. Şirket, Flint'i her yeni modelin bir sonrakinin geliştirilmesine katkı sağladığı bir araştırma döngüsünün ilk adımı olarak konumlandırıyor.