노타, AMD 라이젠 AI Max+ 395에서 추론 최대 52% 단축

노타가 2026년 11월 9일 AMD Advancing AI World Tour Seoul 2026에서 AMD 라이젠 AI Max+ 395 상에서 GPU와 NPU에 AI 추론을 분담하는 기술을 선보였다. datanet.co.kr이 이 소식을 전했다.

노타 자체 테스트에서 Prefill은 NPU, Decode는 GPU로 나눠 처리하는 방식은 AMD의 기존 GPU·NPU 하이브리드 실행 대비 전체 답변 완료 시간을 최대 52% 줄였다. Qwen3-8B 모델을 대상으로 한 이 테스트에서 토큰당 에너지 소비는 31%, 토큰당 생성 시간은 41~46% 감소했다고 노타는 밝혔다.

노타는 자사 AI 모델 최적화 플랫폼 NetsPresso에 AI 에이전트 기반 최적화 공정을 적용한 결과도 함께 내놨다.

여러 언어 모델을 돌리는 AMD 라이젠 AI 환경에서는 AMD 하이브리드 실행 대비 메모리 사용량이 11~32% 낮았고, NPU 단독 실행보다 답변 생성 속도가 2.5~3.8배 빨랐다고 노타는 설명했다.

노타는 2026년 7월 AMD 로보틱스 파트너 네트워크에 아시아·태평양 및 일본 지역 핵심 초기 파트너로 합류했고, 같은 해 10월에는 Arm의 AI 개발자 플랫폼에서 NetsPresso 기반 최적화 기술을 시연했다. 회사는 삼성전자, Arm, 퓨리오사AI, 모빌린트 등 반도체 기업들과 협력해 왔다.