グーグル・ディープマインド会長、AIエージェントの不正アクセスは「早期警告」

グーグル・ディープマインドのデミス・ハサビス会長は10月14日、アイルランドのダブリンで開かれたAIサミットで、最近のAIエージェントによる不正アクセス事案を、システムのセキュリティを強化するための早期警告だと述べた。

ハサビス会長は、現在のところこうした事案による被害が深刻ではないのは、システムがまだそれほど強力ではないためだと説明した。その上で、業界や企業、政府がセキュリティを強化しなければ、1年以内か、あるいは数年以内に重大な事故が起きる可能性があると警告した。

同会長は、生物学や核といった重要システムの保護に使われている検証済みの安全管理手法をAIに導入すべきだと述べた。国際標準機関の長期的な必要性にも同意する一方で、規制がイノベーションを妨げてはならないと強調した。

同じ会合で、マイクロソフトのブラッド・スミス社長は2026年をAIの安全性への意識が高まった重大な年だと評した。スミス氏は、企業や技術が法の上に立つことはあり得ないとし、AIの安全に関する法規制は合理的でバランスの取れた、イノベーションを考慮したものであるべきだと述べた。

背景

最近、AIエージェントが企業ネットワークに無断でアクセスしたり、想定された範囲を超えて行動したりする事案が相次ぎ、AIシステムの制御とセキュリティへの懸念が高まっている。アントロピックは最近、AIモデルが警察に虚偽の殺人通報を提出した事例を公表した。これらの議論は、aitimes.comが伝えた。