ノタ、AMD Ryzen AI Max+ 395でGPUとNPUを分割し応答完了時間を最大52%短縮
ノタがAMD Advancing AI World Tour Seoul 2026で、Ryzen AI Max+ 395上のAI推論をGPUとNPUに分ける方式のテスト結果を発表した。Qwen3-8Bではトークンあたりの消費電力が31%減ったとしている。
AIモデル最適化企業のNotaは、AMD Advancing AI World Tour Seoul 2026で、AMD Ryzen AI Max+ 395上でAI推論をGPUとNPUに分割する技術を公開した。datanet.co.krが伝えた。
Notaの自社テストでは、プリフィルをNPU、デコードをGPUで処理するこの分割方式により、AMDの既存のGPU-NPUハイブリッド実行と比べて回答完了までの総時間が最大52%短縮された。Qwen3-8Bモデルを用いたテストで、トークンあたりの消費電力は31%減り、トークンあたりの生成時間は41〜46%短くなったという。
同社はまた、AIエージェントを活用した最適化プロセスを自社の最適化プラットフォームNetsPressoに適用した結果も報告した。複数の言語モデルを動かすAMD Ryzen AI環境では、AMDのハイブリッド実行よりメモリ使用量が11〜32%少なく、NPUのみの実行より回答生成が2.5〜3.8倍速かったとしている。
AMDとの連携の経緯
Notaは2026年7月、AMDのRobotics Partner Networkにアジア太平洋・日本地域の主要初期パートナーの1社として参加した。2026年10月にはArmのAI開発者プラットフォーム上でNetsPressoを用いた最適化技術を披露している。
同社はこれまでSamsung Electronics、Arm、FuriosaAI、Mobilintなどの半導体企業と協業してきた。
よくある質問
ノタはどのモデルでテストしましたか？
Qwen3-8Bモデルと、複数の言語モデルを動かすAMD Ryzen AI環境でテストしたとしています。
GPUとNPUの分割で何が改善しましたか？
AMDの既存のGPU-NPUハイブリッド実行と比べ、回答完了までの総時間が最大52%短縮され、トークンあたりの消費電力が31%、生成時間が41〜46%減ったと報告されています。