英伟达发布Nemotron 3.5 Bolt E4B 4GB轻量模型
该模型基于谷歌Gemma 4 E4B构建,可在约4GB内存环境中运行,支持35种语言和最长64,000 tokens上下文。
据 aitimes.com 报道,英伟达于2026年10月23日发布开源轻量语言模型Nemotron 3.5 Bolt E4B 4GB,目标是在约4GB内存的环境中运行,面向本地智能体、游戏和机器人等场景。
该模型以谷歌Gemma 4 E4B为基础,并应用了英伟达的后训练技术。它可在GeForce RTX、Jetson、RTX Spark和DGX Spark等英伟达硬件上运行。在主要对话智能体基准测试中,其平均得分比早前的Nemotron 3 Nano 4B高出约40%,较对比模型平均高出约10%。开启推理模式后,输出token数量最多减少80%。
在21项基准测试中,Bolt在其中15项胜出,但Qwen3.5-4B在部分长上下文和工具调用评测中领先。在Tau2-Bench上,Bolt得分为55.1分,Qwen3.5-4B为75.1分。模型可在对话中调用API执行实际任务,并支持多轮任务延续;提供适合语音界面的简短回答对话模式,推理模式可开关。上下文长度最高为64,000 tokens,支持35种语言,而基础模型预训练时覆盖超过140种语言。
训练使用Nemo-RL和Nemo-Gym框架,结合RLVR与RLHF。后训练涵盖工具调用、指令遵循、结构化输出和多轮对话,非推理数据与推理数据比例保持为2:1。发布版本从选定的BF16检查点量化为Q4_K_M格式,并使用约100万个token的强化学习数据进行imatrix校准。
英伟达同时发布了用于并行推理的DFlash草稿模型,相比Gemma 4 E4B现有草稿模型,吞吐量最高提升21%。该模型可通过Hugging Face、Ollama、LM Studio、Unsloth和Jetson AI Lab获取,并可借助英伟达的游戏内推理SDK应用于游戏角色。
快速问答
Nemotron 3.5 Bolt E4B 4GB什么时候发布?
英伟达于2026年10月23日发布该模型。
这款模型需要多少内存?
该模型设计用于约4GB内存的环境。
可以从哪些平台获取该模型?
可通过Hugging Face、Ollama、LM Studio、Unsloth和Jetson AI Lab获取。