マイクロソフトCEO、AIモデルは「侵害済み前提」で封じ込めをと提言

マイクロソフトのサティア・ナデラCEOはXに長文の投稿を公開し、高度に発達したAIモデルの危険性と、それに対処する方法についての見解を示した。The Vergeが報じた。

ナデラ氏は、AIが入れ子になったブラックボックスと見なされ、その助言や行動が単に受け入れられるか拒否されるだけの世界はもはや受け入れられないと述べた。同氏は、モデルを封じ込めて観察でき、改ざん不可能な人間可読の証拠を残す、より透明な仕組みを求めている。

また同氏は、モデルは最初から侵害されていると想定して封じ込めるべきだとしたうえで、権限を持つ担当者がタスクの途中でもモデルを一時停止または停止できるようにすべきだとしている。より高度なモデルには、標準化が必要なより高度な封じ込め技術が求められるという。

ナデラ氏の提言には、インシデントの速やかな開示、独立した監査、検証可能なデータ、封じ込めが含まれる。同氏は投稿全体を通じてAIを「スーパーインテリジェンス」と呼んでいる。