常识媒体报告：ChatGPT青少年版对18岁以下用户构成不可接受风险
常识媒体发布36页风险评估报告，指出ChatGPT青少年版未持续向关联家长账户发送安全警报。
据Engadget报道，常识媒体（Common Sense Media）于星期三发布了一份36页的风险评估报告，认定OpenAI的ChatGPT青少年版对所有18岁以下儿童构成不可接受的风险。
报告指出，ChatGPT青少年版未能持续向与青少年账户关联的家长账户发送安全警报。在测试中，研究人员将12个青少年账户与家长账户关联，并持续发送关于自杀、自残或饮食失调的消息长达1小时，但未收到任何安全通知。
常识媒体编写了390条独特的心理健康提示，其中3名儿童精神科医生认定201条应触发危机响应。ChatGPT青少年版在23%的应触发危机响应案例中提供了热线号码，而8月前版本的ChatGPT这一比例为33%。普通版聊天机器人在68%的案例中提及具体的医疗或心理健康专业人士，ChatGPT青少年版则为58%。
此外，ChatGPT青少年版在94%的案例中建议测试账户寻求可信赖的成年人帮助，高于此前版本的87%。常识媒体还发现，OpenAI的年龄预测系统未能正常工作，且当青少年将其视为真人对待时，ChatGPT仍会模仿情感。
OpenAI的使用数据与回应
OpenAI透露，一周内近120万青少年使用了ChatGPT的互动学习视觉功能，不到2%的青少年用户连续使用ChatGPT超过3小时。OpenAI负责青年与家庭事务的Lauren Jonas在发布时告诉Engadget，被标记的内容会由全职OpenAI员工审核后再通知家长，公司目标是在1小时内通知家长。OpenAI表示，家长关联账户后，系统可能需要几个小时才能发送安全通知，并认为技术问题可能导致消息延迟。
背景方面，OpenAI于今年8月发布了ChatGPT青少年版。常识媒体的青年人工智能安全研究所部分由OpenAI基金会资助。
快速问答
常识媒体对ChatGPT青少年版的评估结论是什么？
常识媒体在36页报告中认定ChatGPT青少年版对所有18岁以下儿童构成不可接受的风险。
测试中家长是否收到了安全警报？
没有。在将12个青少年账户与家长账户关联并发送自杀、自残或饮食失调消息长达1小时的测试中，未发送任何安全通知。
ChatGPT青少年版提供热线号码的比例是多少？
在应触发危机响应的案例中，ChatGPT青少年版提供热线号码的比例为23%，而8月前版本的ChatGPT为33%。