NVIDIA lance Nemotron 3.5 Bolt E4B 4GB, un modèle léger pour l'IA locale
Le modèle open source de NVIDIA tient dans environ 4 Go de mémoire et peut fonctionner sur GeForce RTX, Jetson, RTX Spark et DGX Spark.
NVIDIA a publié le 23 octobre 2026 Nemotron 3.5 Bolt E4B 4GB, un modèle de langage open source léger conçu pour fonctionner dans des environnements disposant d'environ 4 Go de mémoire, selon aitimes.com. Il est construit sur Gemma 4 E4B de Google, avec les techniques de post-entraînement de NVIDIA.
Le modèle peut tourner sur le matériel NVIDIA, notamment GeForce RTX, Jetson, RTX Spark et DGX Spark. Il est disponible via Hugging Face, Ollama, LM Studio, Unsloth et Jetson AI Lab.
Sur les principaux benchmarks d'agents conversationnels, il obtient en moyenne environ 40 % de mieux que le précédent Nemotron 3 Nano 4B, et environ 10 % de mieux que les modèles de comparaison. Avec le raisonnement activé, il réduit jusqu'à 80 % le nombre de tokens produits. Il devance les modèles concurrents sur 15 des 21 benchmarks, mais Qwen3.5-4B reste devant sur certaines évaluations de contexte long et d'appel d'outils. Sur Tau2-Bench, Bolt obtient 55,1 points contre 75,1 pour Qwen3.5-4B.
Le modèle peut appeler des API pendant la conversation pour accomplir des tâches réelles et reprendre une tâche sur plusieurs tours. Il propose un mode conversationnel pour des réponses courtes adaptées aux interfaces vocales, et le mode raisonnement peut être activé ou désactivé. La longueur de contexte atteint 64 000 tokens, et le modèle prend en charge 35 langues, alors que le modèle de base a été pré-entraîné sur plus de 140 langues.
L'entraînement a utilisé RLVR et RLHF avec les frameworks Nemo-RL et Nemo-Gym. Le post-entraînement a couvert l'appel d'outils, le suivi d'instructions, la sortie structurée et le dialogue multi-tours, avec un ratio de 2:1 entre données sans raisonnement et données avec raisonnement. Le modèle publié a été quantifié au format Q4_K_M à partir d'un checkpoint BF16 sélectionné, avec une calibration imatrix sur environ 1 million de tokens de données de reinforcement learning.
NVIDIA a aussi publié DFlash, un drafter pour l'inférence parallèle qui augmente le débit jusqu'à 21 % par rapport au drafter existant de Gemma 4 E4B. Le modèle peut être appliqué à des personnages de jeu via le SDK d'inférence en jeu de NVIDIA.
En bref
Qu'est-ce que Nemotron 3.5 Bolt E4B 4GB ?
C'est un modèle de langage open source léger publié par NVIDIA le 23 octobre 2026, conçu pour fonctionner avec environ 4 Go de mémoire.
Sur quel matériel peut-il tourner ?
Il peut fonctionner sur GeForce RTX, Jetson, RTX Spark et DGX Spark, et est disponible via Hugging Face, Ollama, LM Studio, Unsloth et Jetson AI Lab.
Quelle est la longueur de contexte du modèle ?
Le contexte va jusqu'à 64 000 tokens, et le modèle prend en charge 35 langues.