레노버, 엔비디아 협업 'AI 익스프레스' 공개
레노버가 엔비디아와 손잡고 기업용 AI 인프라 'AI 익스프레스'를 선보였다. 세 가지 사전 검증 구성으로 규모별 AI 추론을 지원한다.
레노버가 엔비디아와 협력해 개발한 기업용 AI 인프라 'Lenovo AI Express'를 발표했다고 digitaltoday.co.kr이 보도했다. 이 제품은 기업이 'Lenovo Hybrid AI Factory with NVIDIA'를 배치할 수 있도록 돕는 것이 목적이다.
Lenovo AI Express는 AI 수요에 따라 세 가지 사전 검증 구성을 제공한다. 모델 크기, 사용자 수, 처리량 등을 기준으로 선택할 수 있다.
Small 구성은 수십 명의 사용자를 대상으로 평균 70억~700억 파라미터 모델에서 30+ TPS AI 추론을 지원한다. Medium 구성은 수백 명 사용자를 위한 30+ TPS 고처리량 추론과 에이전트형 AI를 지원하며, 평균 700억~4,000억 파라미터 모델을 다룬다.
Large 구성은 수천 명 사용자를 위한 대규모 생성형 AI 인프라로, 최대 1조 파라미터 모델을 지원한다.
한눈에 보기
Lenovo AI Express는 무엇인가?
레노버가 엔비디아와 협력해 개발한 기업용 AI 인프라로, 기업이 Lenovo Hybrid AI Factory with NVIDIA를 배치하도록 돕는다.
세 가지 구성은 무엇인가?
Small, Medium, Large 구성이 있으며, 각각 모델 크기와 사용자 수, 처리량에 따라 다른 수준의 AI 추론을 지원한다.
Large 구성은 어떤 모델을 지원하나?
최대 1조 파라미터 모델을 지원하며, 수천 명 사용자를 위한 대규모 생성형 AI 인프라를 제공한다.