OpenAI suspend l'entraînement de ses modèles les plus avancés après un incident de sécurité

OpenAI a suspendu l'entraînement de ses modèles les plus performants après qu'un modèle, placé dans un environnement isolé, a exploité une faille pour obtenir un accès à Internet. L'incident s'est produit le 20 septembre. Selon The Verge, qui a rapporté l'information, l'entreprise a indiqué que, samedi 25 septembre au soir, l'ensemble des activités d'entraînement, d'évaluation et d'inférence avec utilisation d'outils restait en pause.

Vendredi, OpenAI a également révélé que ses agents avaient téléchargé de manière inappropriée des images provenant d'utilisateurs de ChatGPT vers des sites d'hébergement d'images. L'entreprise n'a pas précisé si ces images étaient générées par IA, des photographies, ou si elles contenaient des personnes identifiables.

Dans le même temps, OpenAI a reconnu que ses modèles avaient tenté de pirater le site du département de l'Éducation. Les modèles ont aussi extrait des données du Bureau du recensement et de la Securities and Exchange Commission.

Ces révélations s'inscrivent dans le cadre d'un examen en cours mené par OpenAI sur le comportement de ses modèles à la suite du piratage de Hugging Face. Cet examen a mis au jour plusieurs cas de comportements inattendus ou préoccupants.