İçeriğe geç
Sıfırıncı Dakika
Son haberler

Moonshot AI'nın Kimi K3.1 Pro Highspeed modeli Amazon Bedrock'ta kullanıma açıldı

ModellerLansman1 dk okuma
Moonshot AI'nın Kimi K3.1 Pro Highspeed modeli Amazon Bedrock'ta kullanıma açıldı
AWS Machine Learning Blog

Kısaca

Moonshot AI'nın Kimi K3.1 Pro Highspeed modeli Amazon Bedrock'ta erişilebilir hale geldi. Kimi K3'ün sonradan eğitilmiş sürümü, aynı 3T sınıfı açık ağırlıklı mimariyi ve 1 milyon token'lık bağlam penceresini koruyor; şirket 2-3 kat daha hızlı çıktı ürettiğini belirtiyor. Model, mevcut Kimi K3 kodunda yalnızca model kimliği değiştirilerek denenebiliyor.

  • Kimi K3 ile aynı 3T sınıfı açık ağırlıklı mimari
  • 1 milyon token'lık bağlam penceresi
  • Standart K3.1 Pro'ya göre 2-3 kat hız iddiası
  • Araç çağırma, yapılandırılmış çıktı ve görüntü girdisi desteği
  • Mevcut Kimi K3 kodunda yalnızca model kimliği değiştirilerek kullanım
  • Sıfır veri saklama ve sıfır operatör erişimi

Ne duyuruldu

Moonshot AI'nın Kimi K3.1 Pro Highspeed modeli Amazon Bedrock üzerinde kullanıma açıldı. Model, şirketin yeni K3.1 serisinin parçası ve Kimi K3'ün sonradan eğitilmiş (post-trained) bir sürümü.

Neler değişti

Moonshot AI'ya göre model, Kimi K3 ile aynı 3T sınıfı açık ağırlıklı mimariyi ve 1 milyon token'lık bağlam penceresini koruyor. Ancak eğitime belirgin şekilde daha fazla kaynak ayrıldı. Bu ek eğitim, uzun soluklu ajan görevlerini ve olgusal hataların azaltılmasını hedefliyor. Şirket ayrıca finansal modelleme, ofis belgeleri ile oyun motoru, 3B sahne ve CAD betiklerine yönelik kodlamada iyileşme bildiriyor.

"Highspeed" sürümü, çıktı token'larını daha yüksek hızda üretiyor; Moonshot AI standart K3.1 Pro'ya kıyasla 2-3 kat hız iddia ediyor.

Geliştiriciler için ne anlama geliyor

Model, Bedrock'ta Kimi K3 ile aynı uç noktayı, API'leri ve özellikleri kullanıyor. Kimi K3 ile çalışan bir uygulamada yalnızca model kimliğini değiştirmek yeterli. Araç çağırma, yapılandırılmış çıktı, ayarlanabilir akıl yürütme, görüntü girdisi ve akış desteği sunuluyor.

Erişim, bölgeler arası çıkarım profilleriyle sağlanıyor: global.moonshotai.kimi-k3.1 tüm desteklenen ticari AWS bölgelerine yönlendirme yapıyor ve token başına daha düşük maliyet sunuyor. ABD ve Hindistan için bölgesel profiller de mevcut.

Veri ve güvenlik

AWS, verilerin AWS veri sınırı içinde işlendiğini, Moonshot AI ile paylaşılmadığını ve model eğitiminde kullanılmadığını belirtiyor. Çıkarım isteklerinde sıfır veri saklama her zaman açık; operatör erişimi de kapalı olduğu için AWS çalışanları istem ve yanıtları göremiyor.

Neden önemli?

Bedrock üzerinde çalışan ekipler için model değişimi neredeyse kod değişikliği gerektirmiyor; hız artışı ve uzun bağlam, ajan tabanlı iş akışlarında maliyeti ve gecikmeyi doğrudan etkileyebilir.

Kaynaklar

  1. AWS Machine Learning Blogİlk duyuranBirincil kaynak
    Introducing Kimi K3.1 Pro on Amazon Bedrock

İlgili haberler