Liquid AI lance RIPL, moteur d'inférence sous 50 ms

Liquid AI a dévoilé le 22 octobre 2026 RIPL (Real-time Inference Pipeline), un moteur d'inférence temps réel destiné aux charges de travail des entreprises. Selon aitimes.com, l'entreprise affirme que cette solution maintient la latence de bout en bout sous 50 millisecondes.

RIPL connecte directement les modèles de fondation LFM (Liquid Foundation Model) de Liquid AI dans le chemin de la requête. Le produit cible les tâches à sortie courte, comme la réécriture de requêtes de recherche, la classification d'intention ou la détection de fraude, et non les réponses longues de type chatbot.

Il s'agit d'un produit commercial réservé aux clients entreprises, et non d'un logiciel open source ; les tarifs sont communiqués par l'équipe commerciale de Liquid AI.

Des écarts de latence mesurés en interne

Dans les benchmarks publiés par Liquid AI, LFM2.5-1.2B exécuté sur RIPL affiche une latence p95 de 14,4 à 28,4 fois inférieure à celle de Qwen3.5-0.8B sur vLLM. Pour LFM2.5-2.6B sur RIPL, l'écart va de 5,6 à 7,7 fois face à Qwen3.5-2B sur vLLM.

RIPL prend en charge les GPU NVIDIA H100, H200 et B200 ainsi que les RTX PRO 6000, les modèles LFM2.5 allant de 230 millions à 2,6 milliards de paramètres. Shopify indique de son côté avoir adopté les LFM pour des tâches commerce et atteint moins de 20 millisecondes de temps d'inférence sur du trafic de production réel pour des améliorations de recherche.

Les entreprises se tournaient jusqu'ici surtout vers des méthodes classiques d'apprentissage automatique, comme les arbres de boosting de gradient et les petits modèles d'embedding, pour les tâches temps réel, en raison de la latence de réponse des grands modèles de langage.