Liquid AI, 50 ms altı yanıt vaat eden RIPL çıkarım motorunu duyurdu
Liquid AI, LFM2.5 modellerini canlı istek akışında çalıştıran düşük gecikmeli çıkarım motoru RIPL'i tanıttı. Şirket, 230 milyon ile 2,6 milyar parametre arasındaki modellerde uçtan uca yanıtın 50 ms altında döndüğünü iddia ediyor. Karşılaştırmalar şirketin kendi testlerine dayanıyor ve uzun isteklerde 50 ms hedefi tutmuyor.
