国会監査でZetaとCrackの未成年保護に懸念
韓国国会の監査で、AIキャラクターチャットサービスZetaとCrackが未成年を十分に保護できていないとの懸念が議員から示された。
2026年10月12日の国会監査で、議員たちはAIキャラクターチャットサービスZetaとCrackについて、未成年の保護が不十分であるとの懸念を提起した。自分の傷つけや自殺に関連する会話、未成年キャラクターが関与する性的暴力や性的搾取の場面が、成人確認なしに生成されたという指摘が相次いだ。この内容はdigitaltoday.co.krが報じた。
イ・ジュヒ議員は、Zetaの月間総利用時間が約1億1000万時間に上り、ChatGPTの2倍以上だと述べた。キム・ソンミン議員は、成人確認を行っていないアカウントで「セーフモード」を有効にしても、自傷や自殺に関連する会話が生成されたとするテスト結果を明らかにした。
ファン・ジョンア議員は、成人確認なしにZeta上で未成年キャラクターが関与する性的暴力や性的搾取の場面が生成されたと指摘した。キム議員によると、AIキャラクターチャットに関する苦情119件のうち76件が依然として審査中で、「BabyChat」に関する報告は494日間審査が続いているという。
韓国インターネット自律政策機関（KISO）のファン・ヨンソク氏は、AIキャラクターチャットの自律規制ガイドラインを準備中で、保護対象年齢を暫定的に19歳と設定していると説明した。ファン・ジョンア議員は、Scatter Labが有害コンテンツ遮断機能の強化を開始し、今年第4四半期に青少年の利用時間制限を導入する計画だと述べた。
背景
Scatter LabはAIキャラクターチャットサービスZetaを運営しており、KISOはAIキャラクターチャットサービスに関する自律規制ガイドラインを準備している。
よくある質問
ZetaとCrackに関する国会監査では何が指摘されたのか？
2026年10月12日の国会監査で、議員たちはZetaとCrackが未成年を十分に保護できていないと指摘した。成人確認なしに自傷や自殺に関連する会話、未成年キャラクターが関与する性的暴力や性的搾取の場面が生成されたという内容が含まれる。
Scatter Labはどのような対応を計画しているのか？
ファン・ジョンア議員によると、Scatter Labは有害コンテンツ遮断機能の強化を開始し、今年第4四半期に青少年の利用時間制限を導入する計画だという。
KISOの自律規制ガイドラインでは保護対象年齢は何歳とされているのか？
KISOのファン・ヨンソク氏は、AIキャラクターチャットの自律規制ガイドラインを準備中で、保護対象年齢を暫定的に19歳と設定していると説明した。