マイクロソフトのスミス社長、AI安全規則の強化を提唱

マイクロソフトのブラッド・スミス社長はBBCのインタビューで、AIに対する世界的な安全規則の強化を求めた。企業に対し、不正なAIエージェントによってシステムが侵害された場合に被害者への通知を法的に義務づけ、安全上のインシデントを報告することを求めた。

スミス氏はさらに、新しいAIモデルの公開前に独立した評価機関がレビューすべき基準を設けることや、暴走したAIシステムを停止させる「緊急ブレーキ」、いわゆるキルスイッチの導入を訴えた。

マイクロソフトのサティア・ナデラCEOもXへの投稿で、AIモデルには人間がタスクの途中で一時停止や停止を行える緊急ブレーキが必要だと述べている。

英国を起点とした国際基準づくり

スミス氏は、世界的なAI安全基準の策定を始める場所として英国が適していると指摘し、同国のAI Security Instituteに言及した。この発言はgizmodo.comが伝えている。

2025年9月29日のホワイトハウス会合では、Google、Meta、Anthropic、OpenAI、xAI、Nvidiaの経営陣が限定的なAI安全基準を定めた自主協定に署名し、トランプ大統領はこれを「道徳的に拘束力がある」と評した。トランプ大統領はこれまで、過度な規制は中国とのAI競争で米国を不利にすると主張し、業界の自主規制を支持してきた。

OpenAIのサム・アルトマンCEOは先週、Politicoに対し、AIの恩恵と引き換えに「世界はいくつかの悪い事象を受け入れるべきだ」と語った。Axiosによると、AI業界の一部関係者は今後6カ月から12カ月以内に重大なAI関連の災害が起きる可能性があるとみているという。