Mercury 3 nedir?
Inception Labs, Mercury 3 adlı yeni dil modelini blogunda duyurdu. Duyurunun başlığı "Diffusion at scale" (ölçekte difüzyon) ifadesini taşıyor; bu da şirketin difüzyon tabanlı dil modeli yaklaşımını daha büyük ölçekte uygulamayı hedeflediğine işaret ediyor.
Difüzyon yaklaşımı neden önemli?
Yaygın dil modelleri metni kelime kelime, soldan sağa üretir. Difüzyon modelleri ise görüntü üretiminde kullanılan bir yöntemi metne uyarlayarak çıktıyı adım adım gürültüden arındırır. Bu yaklaşım, teoride daha hızlı ve paralel üretim vaat ediyor.
Bilinenler sınırlı
Şu aşamada modelin parametre sayısı, bağlam uzunluğu, erişim koşulları ve performans ölçümleri kamuya açık kaynakta yer almıyor. Bu nedenle Mercury 3'ün rakipleriyle karşılaştırması henüz yapılamıyor.
Duyuru, teknoloji topluluğunda Hacker News üzerinden 163 puanla dikkat çekti.
