LLM'lerin yapamadığı işe odaklanıyor
Cloudflare, yeni bir model sınıfı olan "System One çıkarım modellerini" duyurdu. İlk model Clairic, Workers AI platformunda @cf/cloudflare/clairic adıyla önizleme olarak erişilebilir. Şirket, modelin açık ağırlıklarını yakında paylaşmayı hedefliyor.
Neden ayrı bir model sınıfı?
Cloudflare'e göre bugün sınır modellerine (frontier LLM) giden çok sayıda yapılandırılmış çıktı isteği aynı kalıpları tekrarlıyor: Fatura tutarı ne? Ne zaman teslim edildi? Kaç gün gecikti? Bu soruların cevapları önceden listelenemiyor. Şirket, bu boşluğu doldurmak için çıkarım modellerini geliştirdi.
Ne yapıyor?
Clairic, yapılandırılmamış girdilerden değer çıkarıyor, hesaplıyor, tahmin ediyor ve öngörüyor. Çıktılar dört türde geliyor:
- Çıkarılan değerler: Girdiden kopyalanan isim, sipariş numarası gibi metinler; karakter konumları ve güven skoruyla birlikte.
- Hesaplanan değerler: Sayı, tarih, süre ve listeler; tür kurallarına uygun ve güven skorlu.
- Tahmini değerler: Girdinin söylemediği ama kanıt sunduğu değerler; belirlenen aralıkta dağılım, medyan ve yüzde 80 güven aralığıyla.
- Öngörülen değerler: Bir serinin gelecekteki değerleri; her adım için ayrı tahmin ve güven aralığı.
Hız ve maliyet avantajı
Cloudflare'e göre Clairic tek geçişte yanıt veriyor, akıl yürütmüyor ve token üretmiyor. Bu yüzden yalnızca girdi için ücret alıyor ve genellikle bir saniyenin altında yanıt dönüyor. Aynı adımı akıl yürüterek çözen bir LLM ise birkaç saniye sürebiliyor. Token üretmediği için yanlış tipte yanıt üretemiyor ya da LLM'lerdeki gibi halüsinasyon göremiyor; yine de hata yapabileceği belirtiliyor.
Sektördeki yeri
Cloudflare, bu sınıfın fikrinin TypeSafe'in bir ay önce duyurduğu System One modellerinden esinlendiğini belirtiyor. Şirkete göre Clairic, karar modellerinden (Jev ve Clef) farklı olarak doğrudan değer döndürüyor. Cloudflare, sayı için Clairic'i, sabit seçenekler arasından seçim için Clef'i, açık uçlu metin için LLM'leri konumlandırıyor.
