Snowflake、Cortex AI Gatewayでモデル自動選択機能を提供
SnowflakeはCortex AI Gatewayの新機能として、品質・速度・コストのバランスに応じてAIワークロードを最適なモデルへ自動振り分けし、AI支出を追跡・管理できると説明した。
Snowflakeは、Cortex AI Gatewayで最近提供を開始した機能により、顧客がAIワークロードを最適なモデルへ自動的に振り分け、AI支出を追跡・管理できると明らかにした。techradar.comが伝えている。
この動的モデルルーティングはCortex AI Gatewayで提供され、用途に応じて品質・スピード・コストのバランスが最も良いモデルへワークロードを自動で振り分ける。タスクの内容に基づき、品質や速度、ユーザーの設定を踏まえて最適なAIモデルを自動選択する仕組みだ。
ガバナンスポリシーやマスキングなどのコントロールは、オープンかプロプライエタリかを問わず、リクエストを処理するあらゆるモデルに適用される。顧客は自社のユーザーが利用できるモデルやプロバイダーを制御できる。
SnowflakeのAIプロダクトマーケティングマネージャー、Grace Adamson氏は同記事のインタビューに応じている。
生成AIの第一波では、モデルの性能に注目が集まり、AI競争はより実験的で、最高品質の出力や最も複雑なタスクの解決を目指すものだった。
よくある質問
Cortex AI Gatewayの動的モデルルーティングとは何ですか?
用途に応じて品質・スピード・コストのバランスが最も良いモデルへAIワークロードを自動で振り分ける機能です。
ガバナンスポリシーはどのモデルに適用されますか?
オープンかプロプライエタリかを問わず、リクエストを処理するあらゆるモデルにマスキングなどのコントロールが適用されます。
顧客は利用モデルを制御できますか?
自社のユーザーが利用できるモデルやプロバイダーを制御できます。