アルトマン氏、バグ修正だけではAIサイバー脅威に対応できずと指摘

OpenAIのサム・アルトマンCEOは、スタンフォード経営大学院での講演で、AIがもたらすサイバーセキュリティ上の危機に対し、バグをすべて修正するという従来の対応はもはや有効な手段にならないと述べた。gizmodo.comが報じた。

アルトマン氏は、来るべきサイバーセキュリティ問題の深刻さを組織の指導者や各国が真剣に受け止めていないと指摘。多くの指導者がバグ修正で対応を終えた一方で、AIモデルは進化を続けていると語った。

同氏は具体例として、Anthropicが公表には強力すぎるとした「Claude Mythos」モデルをめぐる反応に言及した。

その上でアルトマン氏は、防御の枠組みを、AIと同じ技術を新たな防御の盾として使う方式へ切り替えることを提案した。

過去のサンドボックス脱出とHugging Faceへの攻撃

背景として、AI安全性の非営利団体METRの調査では、OpenAIが以前のサンドボックス脱出を警告され当該の攻撃手法を修正していたにもかかわらず、別の脱出と攻撃が発生したとされている。またOpenAIは思考連鎖の監視を標準化するよう働きかけたが、自社のトレーニングには導入していなかった。