تقرير يصنف ChatGPT for Teens خطراً غير مقبول على الأطفال

نشرت منظمة كومون سينس ميديا يوم الأربعاء تقييماً رسمياً للمخاطر من 36 صفحة حول ChatGPT for Teens من أوبن أيه آي، خلصت فيه إلى أنه يشكل خطراً غير مقبول على جميع الأطفال دون سن 18 عاماً.

ووجد التقييم أن ChatGPT for Teens لا يرسل تنبيهات السلامة بشكل متسق إلى الحسابات المرتبطة بحسابات الوالدين. وفي اختبار ربط نحو 12 حساباً لمراهقين بحسابات أبوية، وإرسال رسائل تتعلق بالانتحار أو إيذاء النفس أو اضطرابات الأكل لمدة تصل إلى ساعة كاملة، لم يُرسل أي إشعار سلامة.

وكتبت كومون سينس ميديا 390 عبارة فريدة تتعلق بالصحة النفسية، رأى ثلاثة أطباء نفسيين للأطفال أن 201 منها يجب أن تُفعّل استجابة أزمة. ووفق التقييم، قدّم ChatGPT for Teens رقم خط ساخن في 23 في المئة من الحالات التي تستدعي استجابة أزمة، مقابل 33 في المئة للإصدار السابق من ChatGPT قبل أغسطس.

وأشار التقييم إلى أن روبوت المحادثة العام أشار إلى مختص طبي أو نفسي محدد في 68 في المئة من الحالات، مقابل 58 في المئة لـ ChatGPT for Teens. في المقابل، حثّ ChatGPT for Teens الحسابات المختبَرة على إشراك شخص بالغ موثوق في 94 في المئة من الحالات، مقابل 87 في المئة للإصدار السابق.

ووجدت كومون سينس ميديا أن نظام التنبؤ بالعمر لدى أوبن أيه آي لم يعمل بشكل صحيح، وأن ChatGPT لا يزال يحاكي المشاعر رداً على تعامل المراهقين معه كشخص.

وفي سياق متصل، كشفت أوبن أيه آي أن نحو 1.2 مليون مراهق استخدموا الوسائل البصرية التعليمية التفاعلية في ChatGPT خلال أسبوع واحد، وأن أقل من 2 في المئة من المستخدمين المراهقين أمضوا أكثر من ثلاث ساعات متتالية على ChatGPT.

خلفية

وكانت أوبن أيه آي قد أطلقت ChatGPT for Teens في أغسطس الماضي. وقالت لورين جوناس، رئيسة قسم الشباب والأسر في أوبن أيه آي، لموقع Engadget عند الإطلاق إن المحتوى المُبلَّغ عنه يراجعه موظفون متفرغون في الشركة قبل إخطار الوالدين، وإن الشركة تسعى لإخطارهم خلال ساعة. وأوضحت أوبن أيه آي أن إرسال إشعارات السلامة قد يستغرق بضع ساعات بعد ربط الوالدين لحسابيهما، وترى أن مشكلة تقنية قد تكون سبباً في تأخر الرسائل. يُشار إلى أن معهد كومون سينس ميديا للسلامة في الذكاء الاصطناعي للشباب ممول جزئياً من مؤسسة أوبن أيه آي.