Z.ai'nin GLM 5.3 modeli Amazon Bedrock'ta kullanıma açıldı

Kısaca

Z.ai (Zhipu AI) tarafından geliştirilen 753 milyar parametreli açık ağırlıklı model GLM 5.3, Amazon Bedrock üzerinden erişilebilir hale geldi. Model, kodlama ve uzun soluklu ajan görevleri için optimize edildi; şirket siber güvenlik testlerinde öne çıkan sonuçlar bildirdi. Erişim, uygun kurumsal müşterilerle sınırlı.

753 milyar parametreli mixture-of-experts mimarisi

Kodlama ve uzun soluklu ajan görevlerine optimizasyon

CyberGym testinde 84,5 puan

OpenAI uyumlu ve Bedrock Invoke/Converse API desteği

Örtük ve açık prompt caching

ABD ve küresel bölgeler arası çıkarım profilleri

GLM 5.3 nedir?

Z.ai (Zhipu AI) tarafından geliştirilen GLM 5.3, 753 milyar parametreli bir "mixture-of-experts" (uzmanlar karışımı) modeli. Bu mimaride her sorgu için modelin yalnızca ilgili alt bölümleri devreye girer; böylece büyük boyuta rağmen daha verimli çalışır. Model, kodlama ve uzun süreli ajan görevleri için optimize edildi.

Neler sunuyor?

Kodlama ve ajan performansı: Yüzlerce dosyaya yayılan bir depoyu yeniden düzenleme, saatler süren ajan akışlarını bağlamı kaybetmeden sürdürme gibi işler hedefleniyor.
Siber güvenlik: Z.ai, modelin güvenlik görevlerinde dikkat çeken sonuçlar verdiğini ve CyberGym testinde 84,5 puan aldığını bildirdi.
Esnek API erişimi: OpenAI uyumlu Responses ve Chat Completions API'leri ile Amazon Bedrock'un Invoke ve Converse API'leri üzerinden çağrılabiliyor.
Prompt caching: Büyük sistem istemlerini veya depo bağlamını her turda yeniden gönderen ajan iş yüklerinde gecikmeyi ve girdi maliyetini düşürüyor.
Bölgeler arası çıkarım: ABD ve küresel profiller üzerinden kullanılabiliyor; istek seçilen kaynak AWS bölgesine gönderiliyor ve Bedrock yönlendirmeyi yönetiyor.
Hizmet katmanları: Maliyet odaklı Flex, gecikme öncelikli Priority veya dengeli Standard seçenekleri var.

GLM 5'e göre farklar

Z.ai, GLM 5.3'ün kodlama testlerinde rekabetçi sonuçlar verdiğini ve kendi iç kodlama ölçütünde GLM 5.2'ye kıyasla %50 iyileşme sağladığını belirtiyor. Şirket, iyileşme büyüklüğü nedeniyle testlerin kendisini güncellediği için GLM 5 ile doğrudan karşılaştırma paylaşmadı. Model, Amazon Bedrock tarafında bölgeler arası çıkarım profilleri, örtük ve açık prompt caching ile genişletilmiş API uyumluluğuyla geliyor.

Nasıl erişilir?

GLM 5.3, Amazon Bedrock'ta uygun kurumsal müşterilere açık. Kullanım için AWS hesabı, ilgili IAM izinleri (InvokeModel, InvokeModelWithResponseStream, CallWithBearerToken) ve kod örnekleri için Python 3.10 veya üzeri gerekiyor. İsteğe bağlı güvenlik testi demosu için Docker ve açık kaynaklı sızma testi ajanı Strix kurulabiliyor.