广告合作
人工智能

英伟达发布1200亿参数开放模型Nemotron 3.5 Super VL

英伟达发布开放AI模型Nemotron 3.5 Super VL与Nemotron 3.5 Nano,并计划10月底推出面向边缘设备的Nano E4B 4GB。

英伟达于当地时间15日发布开放AI模型Nemotron 3.5 Super VL和Nemotron 3.5 Nano。据digitaltoday.co.kr报道,Super VL拥有1200亿个参数,适用于常驻式AI代理的开发。

英伟达表示,Nemotron 3.5 Super VL在体积约为其最大推理模型五分之一的情况下,实现了与之相近的性能。该模型可同时处理文本、图像和视频。

Cenqua、CrowdStrike、达索系统、Salesforce.com和新思科技已使用自有数据对Nemotron 3.5 Super VL进行了微调。

Nemotron 3.5 Nano(Nano 74B-A9B 24GB)是基于Super VL的小型模型,拥有740亿个参数,采用混合专家结构,每次激活90亿个参数,可在设备端运行代理任务,并在企业工作站或PC GPU上本地完成编码、调试等工作,无需上传至云。

英伟达还计划于10月底发布更小的Nano E4B 4GB模型,面向GeForce RTX、Jetson以及RTX/GTX Spark等边缘设备,应用于可穿戴设备、家用设备、销售终端、汽车仪表盘和嵌入式界面。

背景

据《华尔街日报》报道,英伟达此举被视为在开放权重和开源模型领域持续创新,可能为美国开放模型阵营增添动力。Kari Briski表示,公共机构和金融机构不愿使用中国制造的模型,而Nemotron因是美国制造且训练数据可供审查,关注度正在上升。

快速问答

Nemotron 3.5 Super VL有多少参数?

拥有1200亿个参数,可处理文本、图像和视频,适用于常驻式AI代理开发。

Nemotron 3.5 Nano可以在本地运行吗?

可以,它基于Super VL,拥有740亿个参数,采用混合专家结构,每次激活90亿个参数,可在企业工作站或PC GPU上本地运行代理任务,无需上传至云。

Nano E4B 4GB模型何时发布?

英伟达计划于10月底发布,面向GeForce RTX、Jetson以及RTX/GTX Spark等边缘设备。

来源