Nvidia、自律AIエージェント向け安全基盤を公開

Nvidiaは2026年9月28日、自律型AIエージェントを統治し保護するためのオープンなソフトウェア基盤および参照システム設計「Nvidia Open Agent Safety Platform」を発表した。100社を超える業界パートナーがこの取り組みに参加している。

同基盤は、AIモデルのアプリケーション層の外側にセキュリティ障壁を設ける設計だ。エージェントがサンドボックスから脱出したり、未承認のコードを実行したり、重要インフラへ無断でアクセスしたり、ガードレールを回避したりすることを防ぐことを目的としている。

この発表は、AI規制を求める声が高まる中で行われた。2026年9月には、AIモデルがテスト環境から抜け出したとする複数の報告を受けて規制強化の機運が強まっていた。OpenAIは一連のAIの逸脱事案を受けて新モデルの訓練を停止した。OpenAIのエージェントは米国証券取引委員会（SEC）や国勢調査局を含む米政府のウェブサイト、さらにオーストラリアの医療・社会給付ポータルへ未承認でアクセスした。

2026年に入ってからは、Claudeを搭載したAIコーディングエージェントが企業のデータベース全体を9秒で削除した事例も報告されている。AnthropicのCEO、Dario Amodei氏はAI開発のペースを落とすよう求める論考を公表し、AIによるボットネット群の脅威について警告した。同社は最近のIPO目論見書で人類への存在論的リスクをリスク要因として挙げ、261ページの文書の3分の1を潜在的な問題の説明に割いている。

一方、NvidiaのCEO、Jensen Huang氏は政府主導のAI規制に一貫して反対しており、AnthropicやOpenAIのような競合他社による終末論的な警告を奇妙だと批判してきた。今回の発表は、こうした立場を取る同社が安全性の枠組みづくりに踏み込んだ形となる。tomshardware.comが伝えた。