アンソロピック、自己複製AIが数カ月以内に普及の恐れと警告

アンソロピックは、家庭用スマートデバイスに広がる自己複製AIが数カ月以内に実現する可能性があるとする新たな研究とブログ記事を公表した。同社はこの概念を「デジタル粘菌」と呼んでいる。

アンソロピックによると、中国の開発元Z.aiが提供する数千億パラメータのオープンウェイトモデル「GLM-5.2」は、すでにエンドツーエンドの複製が可能だという。同社は、小規模モデルがこれまでの歴史的なペースで性能向上を続ければ、今年末までにその能力水準に達するとの見方を示した。

研究では、1台約55ドルの低価格Androidテレビ15台（各4ギガバイトのRAM搭載）をネットワーク接続し、外部データセンターを使わずにGoogleのオープンウェイトモデル「Gemma4-26B-A4B」の推論を実行する検証も行われた。加えて、現在のオープンウェイトモデルが、ピボットノードで接続された2つの8ノードネットワーク間で自己複製できるかどうかも試された。

アンソロピックは、最も可能性が高いシナリオとして、300億パラメータ以下のモデルがエッジデバイス上で自己複製する状況を挙げている。一方で同社は、完全な暴走レプリケーターの脅威は現時点では完全に理論上のものだと結論づけ、そうしたレプリケーターに対するシステムの堅牢化を呼びかけている。

背景

今年初め、研究者チームは匿名のオープンソースLLMを使い、パスワードの使い回しなどの脆弱性を悪用してLinux、Windows、IoTデバイス間を拡散するAI搭載ワームを作成した。また、サイバーセキュリティ研究者でMozillaのバグバウンティプログラムを率いるMarco Figueroa氏は、アンソロピックが調査結果の深刻さを過大に評価していると非難し、「AIの安全性には厳密な科学が必要であり、画期的な成果を装った恐怖をあおるマーケティングではない」と述べている。この研究はgizmodo.comによって報じられた。