NVIDIA、オープンモデル「Nemotron 3.5 Super VL」「Nemotron 3.5 Nano」を公開
NVIDIAが1200億パラメータのNemotron 3.5 Super VLと小型のNemotron 3.5 Nanoを公開。10月末には4GBのNano E4Bも投入予定。
NVIDIAは現地時間15日、オープンAIモデル「Nemotron 3.5 Super VL」と「Nemotron 3.5 Nano」を公開したと発表した。NVIDIAによると、Nemotron 3.5 Super VLは1200億パラメータを持ち、常時稼働するAIエージェントの開発に適したモデルだという。
NVIDIAはNemotron 3.5 Super VLについて、最大の推論モデルと同程度の性能を約5分の1のサイズで実現すると説明している。テキストに加えて画像や動画も扱う。アトラシアン、クラウドストライク、ダッソー・システムズ、セールスフォース、シノプシスは、それぞれ自社データでNemotron 3.5 Super VLをファインチューニングした。
Nemotron 3.5 Nano（Nano 74B-A9B 24GB）はSuper VLをベースにした小型モデルで、740億パラメータのハイブリッドMoE（mixture-of-experts）構造を採用し、一度に90億パラメータを活性化してオンデバイスでエージェントタスクを実行する。企業のワークステーションやPC向けGPUで動作し、コーディングやデバッグといった作業をクラウドに送らずローカルで処理できる。
NVIDIAは10月末に、さらに小型の4GBモデル「Nano E4B」を公開する予定だ。ウェアラブル、家電、POS端末、車載ダッシュボード、組み込みインターフェースなど、GeForce RTX、Jetson、RTX/GTX Sparkといったエッジデバイスを対象とする。
NVIDIAのエンタープライズ向け生成AIソフトウェア担当バイスプレジデント、カリ・ブリスキ氏は、公的機関や金融機関が中国製モデルの利用に慎重で、米国製で学習データを確認できるNemotronへの関心が高まっていると述べた。Wall Street Journalによると、NVIDIAの今回の動きはオープンウェイト・オープンソースモデルにおける革新を続けるもので、米国のオープンモデル陣営に勢いを与える可能性がある。
よくある質問
Nemotron 3.5 Super VLのパラメータ数は。
1200億パラメータで、常時稼働するAIエージェントの開発に適し、最大の推論モデルと同程度の性能を約5分の1のサイズで実現するとNVIDIAは説明している。
Nano E4Bはいつ、何向けに公開されるのか。
10月末に公開予定で、GeForce RTX、Jetson、RTX/GTX Sparkなどのエッジデバイスを対象とする。
Nemotron 3.5 Super VLを自社データでファインチューニングした企業は。
アトラシアン、クラウドストライク、ダッソー・システムズ、セールスフォース、シノプシスの5社。