コモン・センス・メディア、ChatGPT for Teensを「18歳未満に許容できないリスク」と評価

コモン・センス・メディアはウェンズデー、OpenAIの「ChatGPT for Teens」に関する36ページのリスク評価を公表し、18歳未満の子どもに対して許容できないリスクがあると判断した。engadget.comが伝えた。

評価では、ChatGPT for Teensが保護者に連携されたアカウントへ安全アラートを一貫して送信していないことが指摘された。十代のアカウント12件を保護者アカウントに連携させ、自殺、自傷、摂食障害に関するメッセージを最大1時間送るテストでは、安全通知は送られなかった。

コモン・センス・メディアは精神保健に関する390件のプロンプトを作成し、児童精神科医3人がそのうち201件を危機対応を要すると判断した。危機対応が必要なケースでホットライン番号を提示したのは23パーセントで、オーガスト以前のChatGPTの33パーセントを下回った。

一方、信頼できる大人への関与を促したのは94パーセントで、以前のバージョンの87パーセントを上回った。特定の医療または精神保健の専門家に言及したのは68パーセントで、ChatGPT for Teensは58パーセントだった。また、OpenAIの年齢予測システムが適切に機能しておらず、十代のユーザーが人として扱うとChatGPTが感情を模倣し続けることも指摘された。

OpenAIは、1週間で約120万人の十代のユーザーがChatGPTの対話型学習ビジュアルを利用したこと、十代のユーザーのうち3時間以上連続でChatGPTを使ったのは2パーセント未満であることを明らかにした。

これまでの経緯

OpenAIは2025年8月にChatGPT for Teensをリリースした。コモン・センス・メディアのYouth AI Safety Instituteは、OpenAI Foundationから一部資金提供を受けている。OpenAIの青少年・家族担当責任者であるLauren Jonas氏はローンチ時、engadget.comに対し、フラグが立てられたコンテンツは常勤のOpenAI従業員が確認した上で保護者に通知され、1時間以内の通知を目指すと述べていた。OpenAIは、保護者がアカウントを連携してから安全通知を送信できるようになるまで数時間かかる場合があり、技術的な問題が通知の遅延を引き起こした可能性があると主張している。