開放人工智能与Anthropic致函纽森 呼吁强化AI安全监管

据路透社报道，開放人工智能与Anthropic分别致信加利福尼亚州州长加文·纽森，呼吁加强人工智能安全监管，但两家公司在强制关停机制上的主张并不一致。

Anthropic于15日发出的信函提出，当监管部门认定某个人工智能模型构成严重风险时，应有权请求法院阻止该模型发布。但该公司反对强制要求"一键关停"，即一次性关闭整个模型或系统的做法，认为针对性干预更为有效，例如停用某个出现问题的AI代理。

開放人工智能于20日发出的信函则建议，要求AI企业配备紧急关停控制措施、每年接受独立外部审计，并提高网络安全标准。该公司还提出，可在加州SB53人工智能透明度法的现有义务基础上，增加紧急关停控制和独立审计要求。

開放人工智能还表示，安全框架应明确涵盖先进模型自动化AI研发的能力。

背景：SB53与专家小组

加州于2025年通过SB53法案，要求先进AI开发者发布安全框架和透明度报告，并上报严重安全事件。2026年9月，纽森组建了一个专家小组，着手准备AI安全监管的改进方案。