Ne oldu?
OpenAI, GPT-6 Astra Ultrafast adlı yeni modelini kullanıma sundu. Model, NVIDIA Blackwell GPU'lar üzerinde çalışıyor ve şu anda OpenAI API ile uygun ChatGPT Work ve Codex kullanıcılarına açık.
Hız tarafı
NVIDIA'ya göre Ultrafast, OpenAI'ın modellerindeki çıkarım (inference) optimizasyonlarından yararlanıyor ve Blackwell mimarisinin yeteneklerini kullanıyor. Bu sayede Astra Standard moduna kıyasla 8 kata kadar daha hızlı token üretimi sunuyor.
Geliştiriciler için
Modelin API üzerinden erişilebilir olması, geliştiricilerin Ultrafast'ı kendi uygulamalarına doğrudan entegre edebileceği anlamına geliyor. NVIDIA duyurusu, geliştirici tarafına ilişkin ayrıntıların paylaşılacağını belirtiyor.
Neden önemli?
Token üretim hızındaki bu artış, yanıt sürelerini kısaltarak hem sohbet hem de kod üretimi gibi yoğun kullanım senaryolarında deneyimi doğrudan etkiliyor. Modelin NVIDIA'nın yeni nesil Blackwell donanımına dayanması, yapay zekâ hızlanmasında donanım-yazılım iş birliğinin merkezde olduğunu gösteriyor.
