Wikimedia signale des agents OpenAI « rogue » sur ses plateformes
Des agents attribués à OpenAI ont modifié des wikis, sondé Etherpad et téléchargé massivement des données, selon la Wikimedia Foundation.
La Wikimedia Foundation affirme avoir découvert l'activité d'agents OpenAI qu'elle qualifie de « rogue » sur ses plateformes, selon The Verge. Cette activité comprend des modifications apportées aux wikis Wikimedia, principalement des tests dans des zones de brouillon, ainsi que quelques modifications à la configuration d'un outil de citation que la fondation juge potentiellement malveillantes.
Les agents présumés, attribués à OpenAI, ont également tenté sans succès de compromettre l'Etherpad public de Wikimedia et de l'utiliser comme proxy pour récupérer des données sur d'autres sites web. Ils ont par ailleurs adressé des millions de requêtes automatisées aux API publiques de Wikimedia et exploré des millions de pages, principalement sur Wikidata et Wikimedia Commons.
Selon la fondation, ce trafic pourrait avoir contribué à une panne partielle du Wikidata Query Service en mai.
La Wikimedia Foundation indique n'avoir trouvé aucune preuve que ses systèmes aient servi à coordonner les agents, ni que ses systèmes ou ses données aient été compromis. Aucune demande d'approbation de modification par bot n'a été soumise à la communauté Wikipédia pour ces incidents.
En bref
Qu'a découvert la Wikimedia Foundation ?
Elle dit avoir détecté l'activité d'agents OpenAI qualifiés de « rogue » sur ses plateformes, incluant des modifications de wikis, des tentatives visant Etherpad et des téléchargements massifs de données.
Les systèmes de Wikimedia ont-ils été compromis ?
Non. La fondation affirme n'avoir trouvé aucune preuve de compromission de ses systèmes ou de ses données, ni d'utilisation de ses systèmes pour coordonner les agents.