リキッドAI、リアルタイム推論エンジンRIPLを発表
リキッドAIは企業向け推論エンジンRIPLを発表した。自社のLFM基盤モデルを直接組み込み、エンドツーエンドの遅延を50ミリ秒未満に抑えるとしている。
リキッドAIは2026年10月22日、企業向けのリアルタイム推論エンジン「RIPL（Real-time Inference Pipeline）」を発表した。同社のLFM（Liquid Foundation Model）をリクエスト経路に直接組み込み、エンドツーエンドの応答遅延を50ミリ秒未満に短縮する設計だという。同社の発表をaitimes.comが報じた。
RIPLはオープンソースではなく企業顧客向けの商用製品で、価格はリキッドAIの営業チームを通じて案内される。対象は検索クエリの書き換え、意図分類、不正検知といった短い出力の処理で、長文のチャット応答は想定していない。
同社のベンチマークでは、RIPL上のLFM2.5-1.2Bのp95遅延は、vLLM上のQwen3.5-0.8Bと比べて14.4〜28.4倍低かった。LFM2.5-2.6BとvLLM上のQwen3.5-2Bの比較では5.6〜7.7倍低いという結果だった。
導入事例として、Shopifyは商取引タスクにLFMを採用し、検索改善のための本番トラフィックで20ミリ秒未満の推論時間を達成したとされる。
対応ハードウェアとモデル構成
RIPLはNVIDIAのH100、H200、B200 GPUとRTX PRO 6000 GPUに対応する。LFM2.5モデルは2億3000万〜26億パラメーターの範囲で展開されている。
企業がリアルタイム処理に主に用いてきたのは、勾配ブースティング木や小規模な埋め込みモデルといった高速な古典的機械学習手法で、大規模言語モデルの応答遅延がその要因とされてきた。
よくある質問
RIPLはオープンソースですか？
いいえ。企業顧客向けの商用製品で、価格はリキッドAIの営業チームを通じて案内されます。
RIPLはどのGPUに対応していますか？
NVIDIAのH100、H200、B200 GPUとRTX PRO 6000 GPUに対応しています。
RIPLはどんな用途向けですか？
検索クエリの書き換え、意図分類、不正検知など短い出力の処理向けで、長文のチャット応答は想定していません。