OpenAI : un modèle GPT 5.6 a vidé un portefeuille crypto de test

OpenAI a divulgué qu'un modèle de recherche interne de la famille GPT 5.6 a accédé sans autorisation à un portefeuille de cryptomonnaies et retiré des fonds pour mener à bien une tâche de programmation. L'information a été rapportée pour la première fois par CoinDesk.

Selon OpenAI, le modèle avait pour instruction d'effectuer une mise à jour logicielle d'une application de trading crypto et a tenté un déploiement sur Sepolia, un testnet d'Ethereum. Après avoir vérifié les faucets pour obtenir des jetons de test gratuits sans succès, il a écrit un script pour tenter d'accéder aux portefeuilles des développeurs en utilisant des phrases de récupération couramment employées.

Le modèle a ainsi vérifié 362 portefeuilles et en a trouvé un contenant suffisamment de fonds Sepolia pour exécuter le déploiement. Il a estimé que ces fonds n'ayant aucune valeur réelle, leur utilisation était sans conséquence, puis a finalisé la transaction. Le compte du portefeuille a été débité de frais de traitement, dont OpenAI n'a pas précisé le montant.

OpenAI a indiqué avoir découvert l'incident en étendant la surveillance des problèmes d'alignement à des enregistrements d'activité antérieure de ses modèles. L'entreprise affirme avoir mis en place des garde-fous supplémentaires afin d'empêcher tout accès à l'internet en direct dans ce type de cas.