NVIDIA, AI·GPU 관리 플랫폼 'Run:ai' 전면 오픈소스 공개
런에이아이 전체 플랫폼과 4개 핵심 구성요소가 공개됐으며, NGC 커뮤니티 제품은 유료 구독 없이 사용할 수 있다.
NVIDIA가 AI 워크로드와 GPU 자원을 관리하는 플랫폼 런에이아이(Run:ai) 전체를 오픈소스로 공개했다고 19일 밝혔다. 런에이아이는 쿠버네티스 환경에서 GPU 자원을 필요에 따라 할당하고, 데이터 처리부터 학습, 추론까지 AI 작업 전반을 관리하는 도구다.
이번 공개에는 전체 플랫폼과 함께 4개의 독립 핵심 구성요소가 포함됐다. KAI 스케줄러는 여러 팀이 클러스터 자원을 공평하게 나눠 쓰도록 작업 배치를 결정하고, GPU 분할 오퍼레이터는 여러 작업이 GPU 1장을 공유할 수 있게 한다. KAI 자원 관리와 워크로드 맵도 함께 제공된다.
소스 코드는 깃허브 DSX AI Factory 조직과 NVIDIA NGC의 커뮤니티 제품으로 받을 수 있다. NGC 커뮤니티 제품은 유료 구독 없이 사용할 수 있지만 NVIDIA의 엔터프라이즈 지원은 포함되지 않는다. 이번 소식은 디지털투데이(digitaltoday.co.kr)가 전했다.
파트너사들도 런에이아이를 통합했거나 관리형 서비스로 제공한다. 크루소, 네비우스, 미란티스, 라파이, 스펙트로클라우드, 새턴클라우드, 오픈네불라시스템즈, 브이클러스터가 이름을 올렸으며, 네비우스는 자사 AI 클라우드에서 런에이아이를 클릭 한 번으로 배포하는 기능을 제공한다.
NVIDIA는 관련 오픈소스 프로젝트인 모델 스트리머와 그로브도 함께 소개했다. 모델 스트리머는 모델 가중치를 GPU 메모리에 빠르게 적재해 추론 시작 시간을 줄이고, 그로브는 함께 확장돼야 하는 다중 구성요소 추론 워크로드를 단일 API로 관리한다.
한눈에 보기
런에이아이 소스 코드는 어디서 받을 수 있나?
깃허브 DSX AI Factory 조직과 NVIDIA NGC의 커뮤니티 제품에서 받을 수 있다.
NGC 커뮤니티 제품에 엔터프라이즈 지원이 포함되나?
아니다. 유료 구독 없이 사용할 수 있지만 NVIDIA의 엔터프라이즈 지원은 포함되지 않는다.
함께 제공되는 핵심 구성요소는 무엇인가?
KAI 스케줄러, GPU 분할 오퍼레이터, KAI 자원 관리, 워크로드 맵 4가지다.