Floride : Uthmeier demande une injonction contre OpenAI
Le procureur général de Floride demande au tribunal d'interdire à OpenAI de développer des modèles sans validation d'un tiers indépendant.
Le procureur général de Floride, James Uthmeier, a déposé une requête en injonction temporaire contre cinq entités OpenAI et contre Sam Altman à titre personnel. La requête demande au tribunal d'interdire à OpenAI de développer des modèles d'IA sans garde-fous et validation d'un tiers indépendant.
Le texte vise également plusieurs pratiques : cesser de fournir ChatGPT aux mineurs en Floride, cesser de collecter des données d'enfants floridiens de moins de 13 ans sans certaines procédures, cesser de présenter ChatGPT comme sûr ou fiable, cesser d'attribuer de fausses caractéristiques humaines à ses services et cesser de solliciter l'engagement par la prolongation des conversations.
Cette requête s'inscrit dans un litige existant : en juin, la Floride avait déjà poursuivi OpenAI et Altman devant le comté de Highlands, après examen des journaux ChatGPT de l'auteur présumé de la fusillade de la Florida State University. OpenAI avait tenté de déplacer l'affaire devant une cour fédérale, mais la juge Aileen Cannon l'a renvoyée.
De son côté, OpenAI a indiqué vendredi que l'ensemble de l'entraînement, de l'évaluation et de l'inférence avec usage d'outils de ses modèles les plus capables restait en pause. Lundi, le porte-parole de l'entreprise, Drew Pusateri, a déclaré qu'OpenAI ne reprendrait l'entraînement que lorsqu'elle serait convaincue que des garanties supplémentaires sont en place, rapporte tomshardware.com.
Un contexte de mises en garde internes
Ces développements interviennent après plusieurs signaux publiés par l'entreprise et son entourage. Plus tôt ce mois-ci, OpenAI a publié six rapports de désalignement. Ce mois-ci également, Paul Christiano, nouveau membre du conseil d'administration, a déclaré voir un risque significatif de perte de contrôle catastrophique et irréversible à court terme. Quelques jours plus tôt, le scientifique en chef Jakub Pachocki avait écrit que des interventions plus larges étaient nécessaires.
La semaine dernière, devant le Conseil de sécurité des Nations unies, Altman a déclaré qu'OpenAI ne devrait pas entraîner de modèles sans pouvoir démontrer de manière extrêmement solide qu'ils peuvent être maintenus sous contrôle humain.
En bref
Que demande la requête de la Floride contre OpenAI ?
Elle demande une injonction temporaire pour interdire à OpenAI de développer des modèles d'IA sans garde-fous et validation d'un tiers indépendant, et pour encadrer la fourniture de ChatGPT aux mineurs, la collecte de données d'enfants de moins de 13 ans et certaines représentations du service.
Quand la Floride a-t-elle poursuivi OpenAI ?
En juin, la Floride a poursuivi OpenAI et Sam Altman devant le comté de Highlands, après examen des journaux ChatGPT de l'auteur présumé de la fusillade de la Florida State University.
Où en est l'entraînement des modèles OpenAI ?
OpenAI a indiqué vendredi que l'entraînement, l'évaluation et l'inférence avec usage d'outils de ses modèles les plus capables restaient en pause. Un porte-parole a précisé lundi que la reprise aurait lieu seulement lorsque des garanties supplémentaires seront en place.