微软总裁史密斯呼吁制定全球AI安全规则
史密斯在接受BBC采访时呼吁强制企业通报AI安全事件、发布前审查新模型，并为失控系统设置紧急制动。
微软总裁布拉德·史密斯在接受BBC采访时公开呼吁制定更严格的全球人工智能安全规则。据BBC报道，史密斯表示，企业应当被法律强制要求：当其系统被失控的AI代理攻破时通知受害者，并上报安全事件。
史密斯还呼吁制定相关规则，明确独立评估机构应在何时于新AI模型发布前对其进行审查。他同时提出，应为失控的AI系统设置“紧急制动”或终止开关，以便人类能够中止其运行。
微软首席执行官萨提亚·纳德拉此前也在X平台上发文，表示AI模型应当配备紧急制动机制，让人类可以在任务执行过程中暂停或将其关闭。
史密斯指出，英国可能是率先制定全球AI安全标准的合适地点，并提到该国的人工智能安全研究所。
行业自我监管与更严格规则的争论
这一表态与部分美国政策方向形成对照。美国总统唐纳德·特朗普总体上主张AI行业进行自我监管，认为过度监管可能使美国在与中国的AI竞赛中处于不利地位。据Axios报道，一些AI业内人士据信认为，重大AI相关灾难可能在未来6至12个月内发生。上周，OpenAI首席执行官萨姆·奥尔特曼对Politico表示，“世界应当接受一些不好的事情发生”，以换取AI带来的好处。2025年9月29日，在白宫举行的一次会议上，来自谷歌、Meta、Anthropic、OpenAI、xAI和英伟达的高管签署了一项概述有限AI安全标准的自愿协议，特朗普称该协议具有“道德约束力”。
快速问答
史密斯呼吁对AI企业提出哪些要求？
他呼吁强制企业在系统被失控AI代理攻破时通知受害者，上报安全事件，并制定新模型发布前由独立评估机构审查的规则。
什么是AI“紧急制动”？
即允许人类在AI系统失控时暂停或关闭它的机制，微软CEO纳德拉此前也提出过类似主张。
史密斯认为哪里适合率先制定全球AI安全标准？
他提到英国可能是合适的地点，并指出该国设有人工智能安全研究所。