ヒントン氏、AI悪用の金融・電力攻撃を警告

コンピューター科学者でノーベル賞受賞者のジェフリー・ヒントン氏が、AIが悪意ある人物の手に渡れば、金融システムや電力インフラを標的とした大規模な事故に悪用される可能性があると警告した。ITメディアのTechRadarが報じた。

ヒントン氏は、AIが悪意ある主体に渡った場合、被害の規模は制御を超えうると述べた。一方で自身はAI悲観論者ではなく、AIはより良い未来の構築にも使えるとの立場を示した。

同氏は大手AI企業について、競合他社に先んじるためにリスクを十分考慮せず開発を進めていると批判した。マーク・ザッカーバーグ氏、イーロン・マスク氏、サム・アルトマン氏の名前を挙げ、危険性を認識しながら金銭を優先していると指摘した。

ヒントン氏は今後1年が転換点になりうるとし、AIが関与する金融システムへの攻撃や発電の停止といった深刻な事故の可能性に言及した。こうした事態を1979年のスリーマイル島原子力発電所の部分メルトダウンになぞらえた。

同氏は、社会が依然として制御を握っており、多大な努力を払えば行動は可能だと述べた。