엔비디아, 4GB 환경용 초경량 모델 '네모트론 3.5 볼트 E4B 4GB' 공개

엔비디아가 2026년 10월 23일 오픈소스 경량 언어모델 '네모트론 3.5 볼트 E4B 4GB'를 출시했다. 이 모델은 약 4GB 메모리 환경에서 구동되도록 설계됐으며, 로컬 에이전트와 게임, 로봇 등에 활용할 수 있다.

구글의 '젬마 4 E4B'를 기반으로 엔비디아의 후처리 학습 기법을 적용했다. 지포스 RTX와 젯슨, RTX 스파크, DGX 스파크 등 엔비디아 하드웨어에서 실행된다. 주요 대화형 에이전트 벤치마크에서는 이전 '네모트론 3 나노 4B'보다 평균 약 40% 높은 점수를 기록했고, 비교 모델 대비 평균 약 10% 높은 성능을 보였다.

추론 모드를 켠 비교에서는 출력 토큰 수를 최대 80% 줄였다. 21개 벤치마크 중 15개에서 경쟁 모델을 앞섰으나, 일부 장문맥과 도구 호출 평가에서는 '큐원3.5-4B'가 우세했다. 타우2-벤치에서는 55.1점으로 큐원3.5-4B의 75.1점에 미치지 못했다. 모델은 대화 중 API를 호출해 실제 작업을 수행하고 다중 턴 작업을 이어갈 수 있으며, 음성 인터페이스에 적합한 짧은 답변용 대화 모드와 켜고 끌 수 있는 추론 모드를 제공한다. 문맥 길이는 최대 64,000 토큰, 지원 언어는 35개다. 기반 모델은 140개 이상 언어로 사전 학습됐다.

학습에는 Nemo-RL과 Nemo-Gym 프레임워크를 활용한 RLVR과 RLHF가 사용됐다. 후처리 학습은 도구 호출과 지시 따르기, 구조화 출력, 다중 턴 대화를 다뤘고 비추론 데이터와 추론 데이터 비율은 2대 1로 유지했다. 공개 모델은 선별한 BF16 체크포인트를 Q4_K_M 형식으로 양자화한 것으로, 약 100만 토큰의 강화학습 데이터를 활용한 imatrix 캘리브레이션을 거쳤다.

엔비디아는 병렬 추론용 DFlash 드래프터도 함께 공개했다. 젬마 4 E4B의 기존 드래프터 대비 처리량을 최대 21% 높인다. 모델은 허깅페이스와 올라마, LM 스튜디오, 언슬롯, 젯슨 AI 랩에서 내려받을 수 있으며, 엔비디아의 인게임 추론 SDK를 통해 게임 캐릭터에 적용할 수 있다.