Anthropic被曝起草AI安全法案，拟设灾难风险门槛

据科技媒体techcrunch.com报道，Anthropic正在向外界传阅一份人工智能安全法案草案，希望美国国会考虑采纳。草案规定，当模型的可预见、迫在眉睫风险可能导致超过50人死亡，或造成超过10亿美元财产损失时，其发布可以被叫停。

草案将这类灾难性风险限定在三种情形：制造或释放生物武器、模型规避开发者管控，以及网络攻击。

按照草案设计，评估工作由在美国商务部登记的独立评估机构承担。人工智能实验室可以付费给评估机构，但付款不得与评估结果挂钩。评估机构一旦判定存在迫在眉睫的灾难性风险，须在72小时内通知商务部，随后由商务部向哥伦比亚特区法官申请叫停模型发布。

草案同时明确禁止任何联邦机构自行决定停止模型的分发。Anthropic发言人已向Politico证实了这份草案。

据一名发言人介绍，自2025年6月以来，Anthropic一直在向联邦和州立法者推介其“前沿人工智能框架”中的提案。加州近期通过并生效的参议院第53号法案，也以类似门槛界定灾难性风险。

业界此前已有不同主张

数月前，DeepMind董事长Demis Hassabis曾表示，一个自我监管的人工智能机构应当模仿金融业的FINRA模式。近期，英伟达首席执行官Jensen Huang则主张，人工智能行业不需要任何新法律。