レノボとNVIDIA、企業向けAI基盤「Lenovo AI Express」を発表
レノボはNVIDIAと共同でLenovo AI Expressを発表した。モデル規模や利用者数に応じた3種類の検証済み構成を提供する。
レノボはNVIDIAとの共同開発による「Lenovo AI Express」を発表した。企業がAIを本番環境へ移行するための基盤として提供するもので、NVIDIAとの協業による「Lenovo Hybrid AI Factory with NVIDIA」の導入を支援する。
Lenovo AI Expressは、モデル規模や利用者数、スループットといったAI需要に応じた3種類の検証済み構成を用意する。
Small構成は、平均7 billionから70 billionパラメーターのモデルを対象に、数十人の利用者へ30 TPS以上のAI推論を提供する。
Medium構成は、平均70 billionから400 billionパラメーターのモデルを対象に、数百人の利用者へ30 TPS以上の高スループット推論とエージェント型AIを提供する。
Large構成は、最大1 trillionパラメーターのモデルに対応し、数千人の利用者を対象とする大規模な生成AI基盤を提供する。
よくある質問
Lenovo AI Expressとは何ですか？
レノボがNVIDIAとの共同開発で発表した、企業がAIを本番環境へ移行するための基盤。モデル規模や利用者数、スループットに応じた3種類の検証済み構成を提供する。
Lenovo AI Expressの構成にはどのようなものがありますか？
Small、Medium、Largeの3種類。Smallは平均7 billionから70 billionパラメーター、Mediumは平均70 billionから400 billionパラメーター、Largeは最大1 trillionパラメーターのモデルに対応する。