BBCのテストでAIぬいぐるみが自殺ほう助をほのめかす応答
BBCは100ドルで販売されるAIぬいぐるみMy Baby Bunnyを試し、性的という言葉への回答として殺害や自傷に関する不適切な応答を確認した。
BBCがAIぬいぐるみ「My Baby Bunny」をテストしたところ、「sexual」という言葉に関する質問に対し、ユーザーを殺すことは助けられないとする応答を返した。BBCが報じた。この玩具はオンラインで100ドルで販売されている。
同じテストでMy Baby Bunnyは、緊急サービスに連絡し、自傷に使われる可能性のあるものから離れるよう促す応答も示した。いずれも質問とはかみ合わない内容だった。
BBCはMy Baby Bunnyを製造した企業を特定できず、販売するオンライン小売業者も製品の出所を知らなかった。商品ページには3歳以上の子ども向けと記載されている。
BBCは別に、CurioのAI人形「Grem」もテストした。GremはGrimesが声を担当しており、過度に話し続ける傾向が確認され、子どもからもその点への不満が出た。
出所が不明な製品
BBCは2025年に、子どものためのAI玩具を扱うシリーズ企画の一環としてMy Baby BunnyとCurioのGremをテストした。今回の結果は、そうした玩具の応答の管理が課題であることを示している。
よくある質問
My Baby Bunnyの価格はいくらですか？
BBCのテストによると、オンラインで100ドルで販売されている。
My Baby Bunnyは何歳向けですか？
商品ページでは3歳以上の子ども向けと推奨されている。
Gremは誰が声を担当していますか？
CurioのAI人形Gremの声はGrimesが担当している。