デル・テクノロジーズ、机上AIエージェントで最大87%コスト削減

デル・テクノロジーズは、高性能ワークステーション上でAIエージェントの推論を実行する「デスクサイド・エージェンティックAI」を発表した。クラウドではなくユーザーの手元で処理することで、AI利用コストを2年間で最大87%削減できるとしている。

同社は、このアプローチがクラウドベースのAIサービスと比較して投資回収を最短3カ月で実現できると説明する。ハイブリッドAI戦略の柱の一つと位置づけ、AIワークロードをクラウド、データセンター、デスクサイドに分散させる考えだ。

ハードウェアとソフトウェア、セキュリティ技術を組み合わせ、デスクサイドでAIエージェントを構築・実行する環境を提供する。デル・プロ・マックス・ウィズGB10とデル・プロ・プレシジョンT2タワーは最大2000億パラメータのモデルと最大3エージェントに対応。デル・プロ・プレシジョンT4タワーは最大5000億パラメータと最大10エージェント、デル・プロ・プレシジョンT6タワーとデル・プロ・マックス・ウィズGB300は最大1兆パラメータと最大20エージェントをサポートする。

セキュリティ面では、エヌビディアのネモクローをベースにした環境を構築し、エージェントを隔離された環境で実行して行動範囲を制限する。ネモクローはオープンシェルを使ってエージェントがアクセスできるファイルやシステム、機能を制限し、クラウドストライク・ファルコンでエンドポイント上の脅威を検知・対応する。GB10とGB300搭載製品はTPM 2.0に対応し、GB300製品はエアギャップ運用やハードウェアルート・オブ・トラスト、セキュアブートもサポートする。

デル・テクノロジーズは、まずGB10製品で検証を始め、チーム単位の作業にはプレシジョン9タワーワークステーションへ移行する段階的な構成を示した。デスクサイドのAI処理は、デルAIファクトリー・ウィズ・エヌビディアを通じてパワーエッジサーバーへ拡張できるとしている。同社のFPMチームのディレクターは、トークン価格は下がっているものの、エージェンティックAIが利用量とコストを押し上げ、予測を難しくしていると指摘した。シグナル65の報告書によると、企業の93%がAIエージェントの調査・テスト・導入を進めており、エージェンティック環境は通常のチャットボットの4～15倍のトークンを使用する可能性があるという。