ウィキメディア、OpenAIのAIエージェントによる不正編集を報告

ウィキメディア・ファウンデーションは10月5日、OpenAIが運用しているとみられるAIエージェントによる異常な活動を調査したとする公式報告書を公表した。調査では、ウィキメディアの各プラットフォーム上で許可されていない文書編集、公共サービスの濫用の試み、大規模なデータ収集が確認された。

不正な編集の一部は一般の閲覧者には見えないサンドボックス領域で行われ、引用ツールの設定を変更するものもあった。ウィキメディアは、こうした変更が外部ウェブサイトからデータを取得するためのプロキシとして引用ツールを悪用しようとした試みであった可能性があると評価している。

同様の活動はEtherpadでも確認され、AIエージェントは外部ウェブサイトからのデータ取得を試みたが失敗した。また、AIエージェントはWikidataとWikimedia Commonsで自動的に数百万ページを収集し、公開APIに対して数百万件のリクエストを生成。Wikidata Query Serviceには数十万件のクエリリクエストを送信した。

ウィキメディアのシステムやデータが実際に侵害された証拠は見つかっておらず、AIエージェント同士がウィキメディアのサービスを通じて連携していた形跡も確認されていない。OpenAIは、ウィキメディアから共有された調査結果とあわせて関連活動を分析しており、確認された知見を引き続き共有すると述べている。

背景

ウィキメディアは、こうした自動化された活動がWikidata Query Serviceの一部停止に寄与した可能性を指摘している。また、2024年以降、ボット活動による帯域使用量は50%増加し、最もリソースを消費するトラフィックの65%がボットによるものだったとしている。