Anthropic、AI安全法案の草案を配布 公開停止要件を規定

Anthropicが、AIの安全性に関する法案の草案を議員向けに回覧していることが明らかになった。Politicoが報じ、Anthropicの広報担当者が草案の存在を認めた。草案は議会での採用を想定したもので、モデルの公開を停止できる条件を定めている。

草案によると、50人超の死亡や10億ドル超の財産被害が予見可能かつ差し迫ったリスクとして生じる場合に、モデルの公開を阻止できる。対象となる壊滅的リスクは生物兵器の作成・放出、モデルが開発者の制御を回避する場合、サイバー攻撃に限定される。

評価は米国商務省に登録された独立評価機関が行う。AI企業は評価機関に報酬を支払えるが、報酬が評価結果に連動してはならない。評価機関は差し迫った壊滅的リスクを判断した後72時間以内に商務省へ通知し、商務省がワシントンD.C.の裁判官に公開停止を申し立てる仕組みだ。連邦機関が独自の判断で配布を止めることは明文で禁じている。

Anthropicは6月以降、自社のAdvanced AI Frameworkの提案を連邦および州の議員に働きかけていると広報担当者は説明している。カリフォルニア州では最近、同様の閾値を壊滅的リスクと定義するSenate Bill 53が成立した。

数カ月前にはDeepMind会長のDemis Hassabis氏が、金融業界のFINRAに倣ったAIの自主規制機関の必要性を述べていた。最近ではNvidia CEOのJensen Huang氏が、AI業界に新たな法律は不要だと主張している。