オープンAIのアルトマンCEO、AI安全策3案を従業員に説明

オープンAIのサム・アルトマンCEOが先週、同社の従業員との対話の中で、安全なAI開発に向けた3つのシナリオを説明した。米メディアのジ・インフォメーションが報じた。

その一つは、あるAI開発企業が再帰的自己改善を達成し、そこで得た経済力を背景に他社のGPUを溶かしてAI開発を妨げるという筋書きだ。アルトマン氏はこれを「エリエイザー・プラン」と呼び、2022年のエリエイザー・ユドコフスキー氏の論考を踏まえたものだと説明した。

アルトマン氏はこのシナリオを「ひどい」と考えており、選択肢を網羅するために示しただけだと述べた。高度なAIが1社に集中する未来は望まないとも語ったという。

残る2案は、国際原子力機関（IAEA）をモデルにした国際的な監督体制と、主要なAI研究所を1つの機関に統合する案で、後者は「デミス・プラン」と呼ばれた。開発速度の制御をめぐる議論は「ペーシング2.0」と呼ばれているという。

アルトマン氏は従業員に対し、現時点で競合他社に出遅れる余裕はないとしつつ、来年までに長期的な方向性を選ぶ必要があると語った。

過去の提言との関連

ユドコフスキー氏は2022年、AGIを最初に開発した者が他者による危険なAI開発を止めるため、AIチップの破壊を含む断固たる措置を取るべきだと記していた。またグーグル・ディープマインドのデミス・ハサビス氏は、今回の記事の約10年前にCERNをモデルとした国際共同AI研究機関を提案している。