Mobilint芯片自动识别功能并入Ray官方代码

韩国AI半导体公司Mobilint于11月4日宣布，其开发的NPU自动识别与管理功能已并入开源分布式AI框架Ray的官方代码。据digitaltoday.co.kr报道，该功能已在8月13日通过官方代码审查，被合并至Ray官方GitHub仓库的主分支。

该功能可让Ray自动检测系统中安装的Mobilint NPU，并为每项AI任务分配所需资源。在多NPU服务器或多服务器环境中，系统可以按任务区分并管理各个Mobilint NPU。

这一功能源自韩国电子通信研究院（ETRI）的异构AI半导体分布式推理与模型优化技术项目，由ETRI首席研究员Kim Young-ju主导，研究员Kang Min-su、Kang Hyun-seung和Seok Jong-su参与。

此前，在Ray中使用Mobilint NPU需要开发者单独注册加速器资源，并为每项任务指定所用NPU。

Mobilint表示，将继续与ETRI开展技术合作，并推进包括SDK和运行时在内的自有软件技术。公司产品线包括AI加速器ARIES和端侧AI SoC REGULUS。