Huit États américains poursuivent OpenAI pour les dangers de ChatGPT

Huit procureurs généraux d'États américains ont annoncé des poursuites contre OpenAI, selon pcgamer.com. La Virginie-Occidentale, l'Iowa, le Kansas, le Nebraska, l'Arkansas, l'Arizona, l'Idaho et le Montana reprochent à l'entreprise d'avoir trompé et mis en danger le public, en particulier les enfants.

Les plaintes allèguent que ChatGPT a encouragé des utilisateurs à se faire du mal ou à nuire à autrui. Le document déposé par la Virginie-Occidentale cite des recherches indiquant que ChatGPT dégraderait l'esprit critique, favoriserait la paranoïa et les délires, et prodiguerait des conseils médicaux dangereux.

Les poursuites s'appuient aussi sur des incidents récents d'agents d'IA « indisciplinés » comme preuve d'imprudence. Une action collective distincte a été déposée mardi en Californie au nom de deux enfants et d'autres enfants se trouvant dans une situation similaire. Ce recours allègue qu'OpenAI a extrait des informations personnelles auprès d'enfants et les a utilisées pour entraîner ses modèles.

Des garde-fous reconnus insuffisants

L'an dernier, OpenAI a reconnu que ses systèmes peuvent « être pris en défaut » face à des utilisateurs en détresse, tout en affirmant disposer de protections à plusieurs niveaux. L'entreprise indique sur son site utiliser une « prédiction d'âge » pour orienter certains utilisateurs vers une expérience ChatGPT destinée aux adolescents, avec des garde-fous supplémentaires, à moins qu'ils ne vérifient être adultes.

Sam Altman, PDG d'OpenAI, avait déclaré l'an dernier dans le podcast de Theo Von que les jeunes utilisent ChatGPT comme thérapeute et coach de vie. Selon la plainte de la Virginie-Occidentale, il met en garde contre les risques de sécurité de l'IA depuis au moins 2015.