Deep Principle, bilimsel keşif için 753B parametreli açık ağırlıklı Hydrogen-1.0'ı yayımladı

Kısaca

Hangzhou merkezli Deep Principle, kimya, malzeme bilimi ve yaşam bilimleri için Hydrogen-1.0 adlı 753 milyar parametreli açık ağırlıklı modeli duyurdu. Z.ai'nin GLM-5.3 tabanı üzerine alan verisi, laboratuvar kayıtları ve keşif izleriyle eğitilen model MIT lisansıyla paylaşıldı. Şirket, modelin FrontierScience-Research testinde GPT-6-Astra'yı geçtiğini bildiriyor.

753B parametreli MoE mimarisi, ~40B aktif parametre

1M token bağlam, 128K maksimum çıktı

MIT lisanslı açık ağırlıklar

NVIDIA B200/B300 ve AMD MI350X/MI355X için nicemleme desteği

SGLang ile 8 GPU'da çalıştırma

Kimya, malzeme ve yaşam bilimleri odaklı

Ne duyuruldu?

Deep Principle, bilimsel araştırma için geliştirdiği Hydrogen-1.0'ı açık ağırlıklarla yayımladı. Model, Z.ai'nin GLM-5.3 tabanının kimya, malzeme bilimi ve yaşam bilimleri verileriyle yeniden eğitilmesiyle (post-training) oluşturuldu. Ağırlıklar MIT lisansı altında dağıtılıyor.

Teknik özellikler

753 milyar parametreli Mixture-of-Experts (MoE) mimarisi; taban modele göre yaklaşık 40 milyar parametre aktif.
1 milyon token bağlam penceresi, 128 bin token'a kadar çıktı.
SGLang ile 8 GPU'da çalıştığı test edilmiş; NVIDIA B200/B300 için NVFP4, AMD MI350X/MI355X için MXFP4 desteği var.

Nasıl eğitildi?

Eğitim, denetimli ince ayar (SFT) ile pekiştirmeli öğrenmeyi (RL) birleştiriyor. Veri dört kaynaktan geliyor: alan bilgisi, bilim insanlarının görev geri bildirimleri, Mira üzerinden toplanan elektronik laboratuvar defteri kayıtları ve başarısız denemeleri de içeren keşif izleri. Altyapı Megatron ve SGLang üzerine NVIDIA CUDA ve AMD ROCm ortamlarında kurulmuş.

Sonuçlar

Şirketin kendi bildirdiğine göre model, FrontierScience-Research testinde yüzde 38,3 ile GPT-6-Astra'nın yüzde 33,3'lük sonucunu geçiyor. GPQA-Diamond'da yüzde 93,0 bildiriliyor; bu, Kimi-K3 ile kabaca aynı seviye. Bilimsel hesaplama ve ileri reaksiyon tahmininde önde görünürken, NMR yapı aydınlatmada GPT-6-Astra'nın 3,33 puan gerisinde kalıyor. Tüm veri setleri ve eğitim tarifleri paylaşılmadı.