광고 문의
AI

엔비디아, 네모트론 3.5 슈퍼 VL·나노 공개…10월 말 초소형 모델 추가

엔비디아가 1200억 개 파라미터의 네모트론 3.5 슈퍼 VL과 온디바이스용 네모트론 3.5 나노를 발표했다. 10월 말에는 4GB급 나노 E4B가 나온다.

엔비디아가 15일(현지시간) 오픈 AI 모델인 네모트론(Nemotron) 3.5 슈퍼 VL과 네모트론 3.5 나노를 공개했다고 디지털투데이가 보도했다.

네모트론 3.5 슈퍼 VL은 1200억 개 파라미터를 갖춘 모델로, 상시 구동형 AI 에이전트 개발에 적합하다. 엔비디아는 이 모델이 자사의 최대 추론 모델과 비슷한 성능을 약 5분의 1 크기로 구현한다고 밝혔다. 텍스트뿐 아니라 이미지와 영상도 처리한다.

아틀라시안, 크라우드스트라이크, 다쏘시스템, 세일즈포스닷컴, 시놉시스는 자사 데이터로 네모트론 3.5 슈퍼 VL을 파인튜닝했다.

네모트론 3.5 나노(Nano 74B-A9B 24GB)는 슈퍼 VL을 기반으로 한 소형 모델로, 740억 개 파라미터에 하이브리드 전문가 혼합(MoE) 구조를 적용해 한 번에 90억 개 파라미터를 활성화한다. 기업용 워크스테이션이나 PC GPU에서 구동되며, 코딩과 디버깅 같은 작업을 클라우드로 보내지 않고 로컬에서 처리한다.

엔비디아는 10월 말 더 작은 나노 E4B 4GB 모델도 출시할 예정이다. 지포스 RTX, 젯슨, RTX·GTX 스파크 등 엣지 기기와 웨어러블, 홈 기기, 판매 시점 관리(POS) 단말기, 차량 대시보드, 임베디드 인터페이스를 겨냥한다.

오픈 모델 경쟁 구도

월스트리트저널에 따르면 엔비디아의 이번 행보는 오픈 웨이트·오픈소스 모델 혁신을 이어가는 것으로, 미국 오픈 모델 진영에 힘을 실어줄 수 있다. 엔비디아의 카리 브리스키 기업용 생성형 AI 소프트웨어 부사장은 공공기관과 금융기관이 중국산 모델 사용을 꺼리고 있으며, 미국산이고 학습 데이터를 검증할 수 있다는 점에서 네모트론에 대한 관심이 커지고 있다고 말했다.

한눈에 보기

네모트론 3.5 슈퍼 VL의 파라미터 수는?

1200억 개 파라미터이며 텍스트와 이미지, 영상을 처리한다.

네모트론 3.5 나노는 어디에서 구동되나?

기업용 워크스테이션이나 PC GPU에서 구동되며, 코딩과 디버깅 같은 작업을 클라우드 전송 없이 로컬에서 처리한다.

나노 E4B 4GB 모델은 언제, 어디에 쓰이나?

10월 말 출시 예정이며 지포스 RTX, 젯슨, RTX·GTX 스파크 등 엣지 기기와 웨어러블, 홈 기기, POS 단말기, 차량 대시보드, 임베디드 인터페이스를 대상으로 한다.

출처