广告合作
电脑人工智能数码

戴尔推出桌面智能体AI方案,称两年成本降87%

戴尔科技发布桌面智能体AI解决方案,将AI代理推理放在本地工作站运行,并称投资回收期最短3个月。

戴尔科技(Dell Technologies)推出名为“桌面智能体AI(Desk-side Agentic AI)”的解决方案,将重复性的AI代理推理放在用户身边的高性能工作站上运行,而非云端。戴尔表示,与云端AI服务相比,该方案两年内可将AI使用成本降低最高87%,投资回收期最短为3个月。

戴尔将该方案描述为其混合AI战略的支柱之一,将AI工作负载分散到云端、数据中心和桌面侧。该解决方案结合硬件、软件和安全技术,用于在桌面侧构建和运行AI代理。

在硬件配置上,Dell Pro Max with GB10和Dell Pro Precision T2 Tower支持最多2000亿参数模型和最多3个代理;Dell Pro Precision T4 Tower支持最多5000亿参数模型和最多10个代理;Dell Pro Precision T6 Tower和Dell Pro Max with GB300支持最多1万亿参数模型和20个代理。戴尔表示,桌面侧AI工作可通过Dell AI Factory with NVIDIA扩展至PowerEdge服务器。

安全方面,戴尔构建了基于NVIDIA NemoClaw的环境,在隔离环境中运行代理并限制其行为范围。NemoClaw使用OpenShell限制代理可访问的文件、系统和功能,并使用CrowdStrike Falcon检测和响应端点威胁。GB10和GB300产品支持TPM 2.0;GB300产品还支持气隙运行、硬件信任根和安全启动。

戴尔提出了“验证、扩展、编排”的分阶段结构,从GB10产品开始,再过渡到Precision 9塔式工作站,用于团队级工作。

快速问答

戴尔的桌面智能体AI方案能降低多少成本?

戴尔称,与云端AI服务相比,该方案两年内可将AI使用成本降低最高87%,投资回收期最短为3个月。

哪些工作站支持该方案?

Dell Pro Max with GB10和Dell Pro Precision T2 Tower支持最多2000亿参数模型和3个代理;Dell Pro Precision T4 Tower支持最多5000亿参数模型和10个代理;Dell Pro Precision T6 Tower和Dell Pro Max with GB300支持最多1万亿参数模型和20个代理。

该方案如何保障AI代理安全?

戴尔基于NVIDIA NemoClaw构建隔离环境,使用OpenShell限制代理可访问的文件、系统和功能,并用CrowdStrike Falcon检测和响应端点威胁。

来源