Hugging Face, DNA ve doğal dili birleştiren 14B'lik açık model Carbon-X'i yayınladı

Kısaca

Hugging Face Bio, 14,8 milyar parametreli açık DNA dil modeli Carbon-X'i duyurdu. Model, ham DNA dizilerini sohbet arayüzünde okuyup İngilizce yanıt veriyor; mutasyonların zararsız mı yoksa patojenik mi olduğunu tahmin ediyor ve düzenleyici bölgeleri işaretliyor. Ağırlıklar Apache 2.0 lisansıyla paylaşıldı.

14,8 milyar parametreli, yoğun (MoE olmayan) DNA dil modeli

40.960 token bağlam penceresi

DNA ve metin için tek token akışı, ayrı kodlayıcı yok

5.515 DNA tokenı içeren hibrit tokenizer (6-mer tabanlı)

Apache 2.0 lisansıyla açık ağırlıklar

Tek 80 GB GPU'da çalışabilme; Q8_0 ve Q4_K_M GGUF sürümleri

DNA'yı sohbet eder gibi okumak

Hugging Face Bio, 14,8 milyar parametreli Carbon-X'i açık ağırlıklarla yayınladı. Model, ham DNA dizilerini doğal dil komutlarıyla alıp İngilizce yanıt veriyor. Mutasyonların zararsız mı yoksa hastalık yapıcı mı olduğunu tahmin etmek, düzenleyici bölgeleri işaretlemek, organizma sınıflandırmak ve bir sonraki bazı tahmin etmek gibi görevleri var.

Teknik yapı

Carbon-X, Qwen3-14B üzerine inşa edilmiş ve DNA ile metni tek bir token akışında işliyor. Ayrı bir DNA kodlayıcısı yok. Hibrit tokenizer, metin için Qwen3'ün BPE sözlüğünü korurken 5.515 DNA tokenı ekliyor; bunların 4.096'sı altı bazlık parçalara (6-mer) karşılık geliyor. Model 40.960 token bağlam penceresine sahip ve tek bir 80 GB'lık GPU'da bfloat16 olarak çalışabiliyor. Resmî GGUF sürümleri de var: Q8_0 15,8 GB, Q4_K_M 9,6 GB.

Eğitim ve performans

Eğitim dört aşamada yapıldı: gömme ısınması, 302 milyar tokenlık orta eğitim, denetimli ince ayar ve doğrulanabilir ödüllerle pekiştirmeli öğrenme. Hugging Face'in kendi bildirdiği sonuçlara göre model, beş DNA kıyaslamasında ortalama %66,7 başarı elde ediyor; bu, test edilen açık modeller arasında en iyisi. BioReason Coding'de %74,9 ile hem açık hem kapalı modelleri geride bırakıyor. En zayıf noktası, GenomeQA splice-site sorularında %29,8.

Neden önemli

Apache 2.0 lisansı, laboratuvarların hassas dizileri kendi GPU'larında tutmasına olanak tanıyor. Model, genel dil becerilerini de koruyor: IFEval'de %79,3 sıkı doğruluk. Ancak tüm skorlar Hugging Face tarafından bildirildi; bağımsız doğrulama henüz yok.