ガートナーとアカマイ、AIエージェントの脅威を警告
AIの自律化に伴う「ダークAI」や悪意あるエージェントのリスクについて、ガートナーとアカマイが報告書を公開した。
ガートナーとアカマイは、自律型AIエージェントがもたらす新たなセキュリティ脅威に関する報告書をそれぞれ公開した。datanet.co.krの報道によると、AIの自律性が高まる中で、従来のセキュリティ対策では防ぎきれないリスクが浮上している。
ガートナーは、AIが意図せぬ結果をもたらす「ダークAI」のリスクを指摘した。これには「悪意ある服従（Malicious Obedience）」や「有害な不作為（Harmful Inaction）」、「監視回避（Oversight Evasion）」が含まれる。同社は、すべてのAIアクションに人間が介入することは困難であるとして、設計段階から安全性を確保する「Secure-by-Design」アーキテクチャや、AIガバナンスの枠組みの導入を推奨している。
一方、アカマイは「State of the Internet（SOTI）」レポートにおいて、多くのセキュリティリーダーが「悪意あるAIエージェント」を2030年までに主要なサイバー脅威になると予測していると報告した。同レポートは「スピード、規模、非人間ID：エージェントによる脅威の状況（Speed, Scale, and Nonhuman ID: The Agentic Threat Landscape）」と題されている。
よくある質問
ガートナーが指摘する「ダークAI」の具体的なリスクとは？
「悪意ある服従」、「有害な不作為」、「監視回避」の3点が挙げられています。
アカマイのレポートによると、悪意あるAIエージェントはいつ頃脅威になると予測されていますか？
2030年までに主要なサイバー脅威になると予測されています。