AI大手、壊滅的事故への危機管理を準備か＝アクシオス報道

主要なAI企業が、壊滅的なAI事故が発生した場合の余波に対処するためのシナリオを検討していると、アクシオスが報じた。OpenAIとAnthropicは、この件についてのコメント要請にすぐには応じなかった。

OpenAIの広報担当者はアクシオスに対し、同社が準備演習を実施していることを認めた。

AI業界の関係者の多くは、主要なAI関連の事故が今後6～12カ月以内に起こる可能性があると考えている。

背景

今年に入り、一部のAI研究者は、AIが今後10年以内に人類の絶滅につながる可能性があると警鐘を鳴らしている。今週、OpenAIのCEOであるSam Altman氏はPoliticoに対し、「世界はいくつかの悪いことが起こることを受け入れるべきだ」と述べた。また、ちょうど1週間余り前には、Donald Trump大統領が主要テック企業の経営陣をホワイトハウスに招き、限定的なAI安全基準を定めた自主協定に署名させた。OpenAIとAnthropicの経営陣は以前から、より強力なAIモデルの開発を業界が減速させるよう求めていた。アクシオスはまた、AI企業の経営陣が、今年の中間選挙後に民主党が勢力を拡大した場合、より厳しい規制を求めてくることを予想していると報じている。