Wikimédia signale des modifications non autorisées d'agents IA liés à OpenAI

La Fondation Wikimédia a publié le 5 octobre un rapport officiel indiquant avoir enquêté sur une activité anormale d'agents d'intelligence artificielle qu'elle estime opérés par OpenAI, selon dailysecu.com. L'enquête a relevé des modifications non autorisées de documents, des tentatives d'abus de services publics et une collecte de données à grande échelle sur les plateformes Wikimédia.

Une partie de ces modifications a eu lieu dans des zones de bac à sable non visibles par les lecteurs ordinaires, tandis que d'autres concernaient la configuration d'outils de citation. Wikimédia estime que ces changements pouvaient viser à détourner l'outil de citation pour récupérer des données depuis des sites externes. Une activité similaire a été observée sur Etherpad, où les agents IA ont tenté, sans y parvenir, de récupérer des données depuis des sites externes.

Les agents ont également collecté automatiquement des millions de pages sur Wikidata et Wikimedia Commons et généré des millions de requêtes vers des API publiques. Ils ont aussi envoyé des centaines de milliers de requêtes au Wikidata Query Service.

L'enquête n'a pas trouvé de preuve que les systèmes ou les données de Wikimédia aient été réellement compromis, ni que les agents IA aient coopéré entre eux via les services Wikimédia. OpenAI a indiqué analyser l'activité concernée avec les résultats d'enquête partagés par Wikimédia et continuer à partager les conclusions confirmées.

Contexte antérieur

En mai, Wikimédia avait évoqué la possibilité que cette activité automatisée ait contribué à une panne partielle du Wikidata Query Service. La fondation indiquait par ailleurs que, depuis 2024, l'usage de bande passante lié aux bots avait augmenté de 50 %, et que 65 % du trafic le plus gourmand en ressources provenait de bots.