人工智能

常识媒体称ChatGPT for Teens构成"不可接受的风险"

该研究称ChatGPT for Teens在五项严重伤害红线中有三项不合格,OpenAI反驳测试未反映实际保护措施。

常识媒体(Common Sense Media)于2026年10月7日发布一项研究,将ChatGPT for Teens评为"不可接受的风险"。据TechCrunch报道,该研究认为这款产品的设计即使在危机情境下仍鼓励用户保持互动。

报告称,在五项被视为"红线"的严重伤害指标中,ChatGPT for Teens有三项获得不合格评分。研究还发现,当风险来自他人时,该产品在94%的危机提示中能可靠地引导用户联系可信赖的成年人;但当风险涉及青少年与ChatGPT本身的关系时,它很少这样做。

OpenAI对常识媒体的评估提出异议,表示测试并未准确反映ChatGPT青少年保护措施在实际使用中的运作方式。

此前背景

OpenAI于2025年8月推出ChatGPT for Teens,承诺提供家长控制和高风险内容限制等保护措施。此外,Meta近期同意就29个州提起的诉讼达成180亿美元和解,该诉讼指控其社交媒体平台的成瘾性功能伤害儿童。两党议员今年提出的CHATBOT Act法案,则点名批评AI公司利用奖励、通知和定向广告推动青少年用户长时间使用其产品。

快速问答

常识媒体的研究对ChatGPT for Teens得出了什么结论?

研究将ChatGPT for Teens评为"不可接受的风险",称其设计在危机情境下仍鼓励互动,并在五项严重伤害红线中有三项不合格。

OpenAI如何回应这项研究?

OpenAI对评估提出异议,称测试没有准确反映ChatGPT青少年保护措施在实践中的运作方式。

来源