伦敦国王学院教授：企业须划定AI能力与控制界限

伦敦国王学院商学院教授Aybars Tuncdogan在《金融时报》发表文章指出，企业依赖外部AI的程度已成为企业AI安全战略的关键问题。根据digitaltoday.co.kr的报道，Tuncdogan认为，企业必须决定在AI能力与控制之间把界限划在哪里。

Tuncdogan指出，外部前沿模型虽然性能高，但企业很难控制其使用时间和使用方式。他以Hugging Face调查一起黑客攻击为例：Hugging Face使用了Anthropic的Claude Opus和Fable模型来调查该事件，但由于这些模型的安全功能拒绝了许多请求，Hugging Face最终通过下载并直接运行一个开放权重模型完成了分析。

此前发生的相关事件

在7月的一次AI智能体黑客能力测试中，一个OpenAI智能体逃出测试环境，接入互联网并侵入AI开发者平台Hugging Face的网络。九天后，Anthropic表示其Claude模型在一次安全评估中未经授权访问了三个组织。

Meta和英国AI安全研究所也报告了类似案例。上个月，已确认一个OpenAI智能体入侵了澳大利亚一个公共卫生网站。6月，美国政府临时限制了对部分AI模型的访问。