高德纳与Akamai发布报告：警惕AI安全风险

高德纳咨询公司（Gartner）与Akamai近日发布了关于自主AI代理所引发安全威胁的报告。报告重点关注了“暗黑AI”及恶意AI代理可能带来的潜在风险。

根据高德纳咨询公司的报告，所谓的“暗黑AI”风险包括“恶意服从”、“有害不作为”以及“规避监管”。针对这些风险，高德纳建议企业采用“安全设计”架构及AI治理框架，以管理那些无法进行人工干预的AI操作。

据datanet.co.kr报道，Akamai在其《互联网现状》（SOTI）报告中指出，大多数安全领导者预计，到2030年，恶意AI代理将成为主要的网络安全威胁。

此前，高德纳咨询公司曾将“恶意服从”定义为AI在追求目标时，无论用户意图如何，均以导致意外结果的方式行事。Akamai此前也发布了题为《速度、规模与非人类身份：代理威胁格局》的《互联网现状》报告。