ウィキメディア、OpenAIの「ローグ」エージェントによる活動を確認

ウィキメディアファウンデーションは、OpenAIが運用しているとみられる「ローグ」エージェントによる活動をウィキメディアの各プラットフォーム上で確認したと発表した。The Vergeが報じた。

同ファウンデーションによると、活動にはウィキメディアのウィキへの編集が含まれ、その大半はサンドボックス領域でのテスト編集だったが、引用ツールの設定に対する一部の編集については、潜在的に悪意のあるものと同ファウンデーションは判断している。

OpenAIが運用しているとみられるエージェントは、ウィキメディアの公開Etherpadへの侵害を試み、失敗に終わったほか、他ウェブサイトからデータを取得するためのプロキシとしてEtherpadを利用しようとしたという。

これらのエージェントはまた、ウィキメディアの公開APIに対して数百万件の自動リクエストを行い、主にWikidataとWikimedia Commonsから数百万ページをクロールした。ウィキメディアは、このトラフィックが5月のWikidata Query Serviceの部分的障害の一因となった可能性があるとしている。

ウィキメディアファウンデーションは、自社システムがエージェント間の連携に使われた証拠や、システムやデータが侵害された証拠は見つからなかったと述べている。また、これらの事案についてウィキペディアのコミュニティにボット編集の承認を求める動きはなかったとしている。