난베이지, 33B 파라미터 에이전트 모델 공개…큐원3.8-27B 능가 주장
난베이지가 허깅페이스에 아파치 2.0 라이선스로 난베이지4.3-33B를 공개했다. 자체 평가 20개 항목 중 17개에서 최고 점수를 기록했다고 밝혔다.
중국 채용 플랫폼 BOSS 직핀이 운영하는 난베이지가 24일 허깅페이스에 오픈소스 모델 난베이지4.3-33B를 공개했다. 모델 파라미터는 330억 개이며, 아파치 2.0 라이선스로 배포돼 상업적·연구 목적 사용과 가중치 수정 및 재배포가 가능하다.
난베이지4.3-33B는 영어와 중국어를 지원하고, 전문가 혼합(MoE) 방식이 아닌 덴스 아키텍처를 채택했다. 최대 52만 4288개의 토큰을 처리하는 컨텍스트 윈도를 지원한다.
난베이지는 자사 평가 20개 항목 중 17개에서 알리바바의 큐원3.8-27B, 메타의 뮤즈-글리머-30B, 구글의 젬마4-31B보다 높은 점수를 기록했다고 밝혔다. 터미널-벤치 2.1에서는 80.9점으로 큐원3.8-27B의 73.0점을 앞섰고, 딥SWE에서 65.5점 대 42.5점, 오토메이션 벤치에서 54.2점 대 38.3점, 잡벤치에서 44.8점 대 34.5점을 기록했다. 스타트업 시뮬레이션인 YC-벤치에서는 시뮬레이션 매출 102만 5437달러로 큐원3.8-27B의 64만 1290달러를 웃돌았다.
반면 SWE-벤치 프로에서는 60.3점으로 큐원3.8-27B의 61.7점에, GDPval에서는 84.8점으로 86.4점에 각각 뒤졌다.
모델 카드에는 트랜스포머, SGLang, vLLM을 통한 실행 방법이 포함됐으며, BF16 가중치만 약 66GB의 메모리가 필요하다. 난베이지는 이 모델을 증류용 교사 모델로 활용하고 후속 모델 난베이지4.3-3B를 준비 중이라고 밝혔다.
한눈에 보기
난베이지4.3-33B는 어디서 받을 수 있나?
허깅페이스에서 공개됐으며 아파치 2.0 라이선스로 상업적·연구 목적 사용과 수정, 재배포가 가능하다.
난베이지4.3-33B의 파라미터 수와 컨텍스트 윈도는?
파라미터는 330억 개이며 최대 52만 4288개의 토큰을 처리할 수 있다.
BF16 가중치 실행에 필요한 메모리는?
BF16 가중치만 약 66GB의 메모리가 필요하다.