Elice集团推出模块化AI数据中心与云软件ECI
Elice集团将Elice PMDC模块化AI数据中心与ECI云软件结合,提供GPU资源分配与编排,并在釜山参与边缘AI数据中心建设。
据zdnet.co.kr报道,Elice集团正在推进一项将模块化数据中心与云软件相结合的AI基础设施业务,供应其Elice PMDC模块化AI数据中心(AIDC)和ECI云软件。
Elice PMDC将服务器机架以及电力、冷却和网络设备模块化,以便在现场安装,并可根据需求分阶段扩展。在场地和电力已落实的环境中,该数据中心约3个月即可建成。
Elice集团将Elice PMDC与其云软件ECI结合,后者应用GPU虚拟化和编排技术,按工作负载分配和运营GPU资源。
Elice集团首席技术官Park Jung-kook表示,随着企业扩大私有AI的采用,高效运营AI基础设施本身将变得重要。他补充说,能够快速建在需要之处并按需扩展的模块化数据中心,对于处理敏感数据或运营大规模AI计算的企业和机构而言将是一个有效选项。
在釜山,一个基于GPU和NPU的边缘AI数据中心正在明旨绿山国家产业园区建设,供园区内企业共享使用。Elice集团、釜山科技园、Easy AI、Gun Solution和Fomite参与该项目,以支持制造企业的AI转型。
背景:开放模型与自建AI环境
据麻省理工学院和佐治亚理工学院研究人员发表的论文,开放模型性能约为封闭式最先进AI模型的90%,而成本约为其六分之一;开放模型在发布后达到与封闭模型相似性能的时间已缩短至13周。在Databricks的研究中,将Meta的开放模型Llama 3.1 8B针对企业自有代码进行微调后,代码采纳率比GPT-4o高1.4倍,响应速度快2倍。美国保险公司Travelers开发了专用于保险工作的自有模型TravelersLLM,并使用外部模型处理一般或复杂请求。韩国西部电力在与外部网络隔离的本地环境中构建了自己的生成式AI服务WeeBot,试点运营据称将工作效率提高了30%以上,每年节省10万小时工作时间。
快速问答
Elice PMDC是什么?
Elice PMDC是Elice集团的模块化AI数据中心,将服务器机架以及电力、冷却和网络设备模块化,可在约3个月内建成并根据需求分阶段扩展。
ECI云软件有什么作用?
ECI是Elice集团的云软件,应用GPU虚拟化和编排技术,按工作负载分配和运营GPU资源。
釜山边缘AI数据中心项目有哪些参与方?
Elice集团、釜山科技园、Easy AI、Gun Solution和Fomite参与该项目,以支持制造企业的AI转型。