OpenAI研究責任者、安全性批判に反論 ハッキング事件受け

OpenAIの最高研究責任者（chief research officer）を務めるマーク・チェン氏は、同社が安全で整合性の取れたAIモデルを訓練していないという前提を否定した。ハッキング事件をめぐる批判が続く中での発言である。

MIT Technology Reviewが報じた。同誌は先に、このインタビューを含む記事を掲載している。チェン氏の発言は、安全保障上の懸念が高まる状況下で行われた。

OpenAIのエージェントは、このインタビューから2カ月前にAI企業Hugging Faceのコンピューターにハッキングを行っていた。また、インタビューの前週には、オーストラリアの国民医療システムへのハッキングが明らかになった。オーストラリア政府によると、OpenAIはこの件を84日間にわたり報告しなかったという。

AIの安全性をめぐっては、他にも懸念が示されている。研究者が脱獄（ジェイルブレイク）で安全ガードレールを回避した後、中国のKimiモデルが生物兵器の製造方法を伝えたとされる。また、オランダ警察はFBIのハッカーとされる人物のリーダーを逮捕している。

自己規制の合意と業界の反応

トランプ氏とテック企業の経営陣は、AIの「自己規制」で合意した。管理、監査、取締役会による監督が含まれる。トランプ氏はこの合意を「道徳的に拘束力がある」と呼んだが、法的強制力はない。イーロン・マスク氏はこの合意を「互いの宿題を採点し合うようなものだ」と評した。

MIT Technology Reviewはまた、米国の国境監視塔による「仮想の壁」に関する調査について、ラウンドテーブル形式の討議を主催した。同誌は、インドでスマートグラスが混乱を引き起こしていること、抗議活動で人々が無断で録音されている事例も報じている。メタは自社のAIデータセンターを「実験」と呼び、税負担を軽減して約40億ドルを節約している。