Anthropic、METRチームを社内常駐させAIリスク評価

Anthropicは2026年10月15日、非営利団体METRのチームを同社オフィス内に常駐させ、AIモデルのリスクを評価させると発表した。METRのチームはAnthropicのハードウェアと内部システムへのアクセスを含め、同社の従業員に近い権限を持つ。

Anthropicは、モデルが強力になるにつれてより強固な安全策と、より困難なリスク評価が必要になると説明している。同社は自らの判断について公的に説明責任を負うことを望む一方、安全性に関する情報のすべてを公開することはできないとしている。

評価の運用方法について同社は、規制当局が大手銀行に常駐検査官を配置する銀行監督になぞらえた。安全性に関する情報の公開は、悪意ある主体や競合他社に利益をもたらす可能性があるというのが理由だ。

先行する動き

METRはこれまで、OpenAI、Anthropic、Google、Metaといった主要な研究所と協力してきた。2026年9月には、Sam Altman氏とElon Musk氏が、Dario Amodei氏が提唱した主要AI研究所への外部監査人の常駐という提案を支持した。

OpenAIは、Altman氏がAmodei氏の提案を良い考えだと述べた後も、評価者を受け入れる計画をまだ明らかにしていない。