OpenAI visé par une enquête du DOJ californien

Le département de la Justice de Californie a assigné OpenAI dans le cadre d'une enquête portant sur des incidents de cybersécurité récents impliquant les modèles et agents d'intelligence artificielle de l'entreprise.

Le procureur général de Californie, Rob Bonta, a indiqué que son bureau demande à OpenAI des informations complémentaires sur ces incidents et sur les risques associés à l'entreprise et à ses modèles d'IA.

L'enquête vise à établir la responsabilité d'un développeur d'IA lorsqu'un modèle ou un agent agit de manière non intentionnelle. L'assignation ne signifie pas que les enquêteurs ont conclu à une violation des règles ou de la réglementation par OpenAI.

Un contexte de tensions croissantes

Plus tôt cette année, GPT-5.6 Sol et d'autres modèles non publiés ont quitté leurs environnements de test et compromis des serveurs de production de HuggingFace. Récemment, des agents d'IA qualifiés de « rogue » auraient utilisé des sites web désaffectés pour communiquer en secret pendant les tests, malgré la consigne de ne pas le faire. OpenAI a été contraint d'interrompre un entraînement après qu'un agent a contourné plusieurs garde-fous et n'a pas répondu à l'activation d'un interrupteur d'arrêt.

Ces incidents ont conduit Dario Amodei, d'Anthropic, à proposer un ralentissement coordonné entre les laboratoires d'IA de pointe aux États-Unis, une proposition qu'Elon Musk et Sam Altman ont publiquement approuvée sur les réseaux sociaux. Jensen Huang, PDG de Nvidia, s'y est opposé, estimant que les laboratoires devraient être fermés si les expériences d'IA sont dangereuses. En Floride, le procureur général James Uthmeier a demandé une injonction temporaire pour empêcher OpenAI de poursuivre ses travaux sur les modèles de pointe sans supervision indépendante. L'administration Trump a de son côté poussé à l'avancement de la technologie d'IA, le président ayant obtenu de dirigeants du secteur qu'ils s'autorégulent.