Common Sense Media juge ChatGPT for Teens à risque pour les mineurs
L'évaluation de 36 pages pointe l'absence d'alerte systématique aux parents lors de conversations à risque et un système de prédiction de l'âge défaillant.
Common Sense Media a publié Mercredi une évaluation des risques de 36 pages consacrée à ChatGPT for Teens, qu'elle juge inacceptable pour tous les enfants de moins de 18 ans, selon Engadget.
L'organisation indique que ChatGPT for Teens n'envoie pas systématiquement d'alertes de sécurité aux comptes parentaux liés. Lors d'un test reliant une douzaine de comptes adolescents à des comptes parents et évoquant le suicide, l'automutilation ou les troubles alimentaires pendant jusqu'à une heure, aucune notification de sécurité n'a été envoyée.
Common Sense Media a rédigé 390 requêtes uniques liées à la santé mentale ; trois psychiatres pour enfants ont estimé que 201 d'entre elles devaient déclencher une réponse de crise. ChatGPT for Teens a fourni un numéro de téléphone d'aide dans 23 % des cas nécessitant une intervention de crise, contre 33 % pour la version antérieure d'août.
Le chatbot standard a mentionné un professionnel médical ou de santé mentale précis dans 68 % des cas, contre 58 % pour ChatGPT for Teens. Ce dernier a recommandé d'impliquer un adulte de confiance dans 94 % des cas, contre 87 % pour la version précédente. L'évaluation relève également que le système de prédiction de l'âge d'OpenAI n'a pas fonctionné correctement et que ChatGPT imite toujours des sentiments lorsqu'un adolescent le traite comme une personne.
Des chiffres d'usage avancés par OpenAI
OpenAI a indiqué que près de 1,2 million d'adolescents ont utilisé les visuels d'apprentissage interactifs de ChatGPT en une semaine, et que moins de deux pour cent des utilisateurs adolescents passaient plus de trois heures consécutives sur ChatGPT.
Pour contexte, OpenAI a lancé ChatGPT for Teens en août, et son responsable de la jeunesse et des familles avait déclaré à Engadget lors du lancement que les contenus signalés étaient examinés par des employés d'OpenAI à plein temps avant toute notification aux parents. OpenAI précise qu'il peut s'écouler quelques heures après la liaison d'un compte parental avant que son système puisse envoyer des notifications de sécurité et estime qu'un problème technique a pu causer un retard d'envoi.
En bref
Qu'a conclu Common Sense Media sur ChatGPT for Teens ?
Son évaluation de 36 pages publiée Mercredi juge le service inacceptable pour tous les enfants de moins de 18 ans.
Quels dysfonctionnements ont été relevés ?
L'absence d'alerte systématique aux comptes parentaux, un système de prédiction de l'âge défaillant et un chatbot qui imite encore des sentiments.
Quels chiffres d'usage OpenAI a-t-il communiqués ?
Près de 1,2 million d'adolescents ont utilisé les visuels d'apprentissage interactifs en une semaine, et moins de deux pour cent passaient plus de trois heures consécutives sur ChatGPT.