研究者400人超、AI監視の国際機関設立を提言

34カ国から400人を超える研究者が10月13日、高度なサイバー攻撃能力を持つAIシステムを監督する国際機関の設立を求める公開書簡を発表した。AI研究者のGeoffrey Hinton氏とYoshua Bengio氏も署名している。aitimes.comが報じた。

書簡は、提案された機関が業界全体に適用される封じ込め基準を定め、重大なセキュリティインシデントの登録簿を維持することを求めた。登録簿は最終的に公開されるべきだとした。

また、フロンティアAIモデルの初回配備時やテスト時に外部ネットワークからエアギャップで隔離すること、独立した監督を求めている。政府が正式な監督制度を整備する間も、AIの開発・テスト組織が高い封じ込め基準を直ちに採用するよう促した。

韓国からはKim Beom-hyeon氏（Hanyang University ERICA）とKim Yong-dae氏、Son Su-el氏（KAIST）が署名した。2018年のチューリング賞をHinton氏、Bengio氏と共同受賞したYann LeCun氏は署名しなかった。

書簡の約1カ月前には、Anthropic、OpenAI、Google、Meta、xAI、NVIDIAなどの主要AI企業が、強制力のない自主的な安全対策に関するホワイトハウス合意に署名している。EUの技術担当委員Henna Virkkunen氏は最近、EU AI Actが制御不能なAIのリスクに対処できると述べた。