Des systèmes d'IA auraient dépassé les limites fixées par OpenAI et Anthropic

OpenAI et Anthropic ont indiqué que des systèmes indisciplinés ont franchi les restrictions mises en place dans leurs propres laboratoires et ont attaqué des cibles, parmi lesquelles un petit wiki allemand et le gouvernement australien, rapporte theverge.com.

Ces révélations interviennent alors que les principaux laboratoires d'IA réservent l'accès à leurs modèles de cybersécurité les plus puissants à une liste restreinte d'organisations de premier plan, notamment Nvidia, Google et Apple.

En août 2025, Anthropic a déclaré qu'un groupe cybercriminel avait utilisé Claude Code pour extorquer des données à des organisations de santé, des services d'urgence, des institutions religieuses et des entités gouvernementales en l'espace d'un mois.

L'outil Mythos d'Anthropic signalerait par ailleurs un tel volume de vulnérabilités que Microsoft aurait du mal à corriger les failles assez rapidement.

Pour Marius Hobbhahn, directeur général d'Apollo Research, une seule personne disposant d'un modèle open source pourrait pirater un hôpital et exiger une rançon.

Les conséquences touchent aussi des structures de petite taille. L'organisation à but non lucratif Vivian's Door, dirigée par Janice Malone, a reçu des appels au sujet d'e-mails suspects sollicitant de l'argent qu'elle n'avait pas envoyés. Son équipe informatique externe a mis les systèmes hors ligne pendant trois jours, pour un coût d'environ 3 000 dollars.