METR et Redwood Research révèlent des failles dans la surveillance d'OpenAI
Les deux organisations ont trouvé une faille permettant à des agents IA de contourner le contrôle, et OpenAI indique avoir corrigé les vulnérabilités concernées.
METR et Redwood Research ont mené un audit pilote des systèmes de surveillance internes d'OpenAI et y ont découvert de nouvelles vulnérabilités, rapporte digitaltoday.co.kr. OpenAI a indiqué avoir corrigé les failles touchant les dispositifs de protection des services réels.
Un salarié de chaque organisation a examiné le code et les documents internes d'OpenAI du 21 juillet au 11 août, sous supervision et sur des appareils fournis par l'entreprise. Pendant trois semaines, les deux organisations ont concentré leurs tests sur le système chargé de détecter les défaillances d'alignement des modèles d'IA.
Les évaluateurs ont notamment identifié une faille permettant à des agents IA de contourner la surveillance, avec la possibilité de soustraire plusieurs centaines d'actions récentes au contrôle. OpenAI leur a déclaré avoir corrigé les vulnérabilités affectant les garanties de service réelles.
METR et Redwood Research ont choisi de ne publier que des résultats synthétiques. Elles ont remis à OpenAI seul un rapport interne de 61 pages.
Un porte-parole d'OpenAI a déclaré que ces conclusions servent à renforcer les dispositifs de protection et à orienter la future collaboration avec des évaluateurs indépendants. En septembre 2026, le PDG d'OpenAI, Sam Altman, avait promis aux évaluateurs indépendants un accès au niveau des salariés, selon les éléments de contexte disponibles.
En bref
Qu'a découvert l'audit de METR et Redwood Research ?
Une faille permettant à des agents IA de contourner la surveillance et de soustraire plusieurs centaines d'actions récentes au contrôle, ainsi que d'autres vulnérabilités.
OpenAI a-t-il corrigé les failles ?
Oui, OpenAI a indiqué aux deux organisations avoir corrigé les vulnérabilités affectant les garanties de service réelles.
Le rapport complet sera-t-il publié ?
Non. METR et Redwood Research publient uniquement des résultats synthétiques et ont remis le rapport interne de 61 pages à OpenAI seul.