모레, AMD GPU 기반 '토큰 팩토리' 전략 공개
모레가 AMD 인스팅트 MI355X에서 엔비디아 B200 대비 2배 이상의 처리량을 기록했다고 밝혔다.
AI 인프라 솔루션 기업 모레가 2026년 서울에서 열린 AMD 어드밴스트 AI 월드 투어에서 AMD GPU 기반 '토큰 팩토리' 소프트웨어 전략을 공개했다고 datanet.co.kr이 보도했다. 모레는 AMD 인스팅트 MI355X에서 최신 오픈소스 모델을 추론할 때 일반적인 서비스 조건에서 엔비디아 B200 대비 2배 이상의 처리량을 달성했다고 주장했다.
모레의 MoAI 인퍼런스 프레임워크는 신규 모델 최적화와 세대별 AMD GPU 최적화, 데이터센터 규모의 이기종 분산 추론을 하나의 소프트웨어 스택에서 지원한다. 모레는 또 엔비디아 GPU가 프롬프트 처리를, AMD GPU가 응답 생성을 맡는 구성에서 동종 GPU 클러스터 대비 약 1.7배의 처리량을 기록했다고 밝혔다.
모레 CEO는 AMD AI 제품 관리 부문 부사장과 함께 기조연설 세션에 참석했다.
이기종 토큰 팩토리 운영
모레는 2021년 KT와 함께 AMD GPU 기반 AI 클라우드 서비스를 상용화해 2,000장 이상의 AMD GPU를 운영한 바 있다. 올해는 국내외 토큰 팩토리에서 여러 고객사에 이기종 토큰 팩토리 운영 소프트웨어를 공급했다고 밝혔다.
한눈에 보기
모레가 공개한 토큰 팩토리 소프트웨어는 무엇인가?
AMD GPU에서 AI 추론 비용을 최적화하는 소프트웨어 솔루션으로, 신규 모델 최적화와 세대별 AMD GPU 최적화, 데이터센터 규모의 이기종 분산 추론을 하나의 스택에서 지원한다.
모레는 어떤 성능 수치를 제시했나?
AMD 인스팅트 MI355X에서 최신 오픈소스 모델을 추론할 때 엔비디아 B200 대비 2배 이상의 처리량, 엔비디아 GPU와 AMD GPU를 함께 쓰는 구성에서 동종 GPU 클러스터 대비 약 1.7배의 처리량을 기록했다고 밝혔다.