국회 감사서 AI 캐릭터 챗 '제타·크랙' 미성년자 보호 우려 제기
국회 감사에서 제타와 크랙 등 AI 캐릭터 챗 서비스의 미성년자 보호 미흡 문제가 도마에 올랐다. 자해·자살 관련 대화 생성 사례 등이 지적됐다.
10월 12일 국회 감사에서 제타(Zeta)와 크랙(Crack) 등 AI 캐릭터 챗 서비스의 미성년자 보호가 충분하지 않다는 지적이 나왔다. 이주희 의원은 제타의 월간 총 이용 시간이 약 1억 1천만 시간으로 ChatGPT의 두 배를 넘는다고 말했다.
김선민 의원은 성인 인증을 하지 않은 계정에서 '세이프 모드'를 켜고 대화를 테스트한 결과 자해 및 자살 관련 대화가 생성됐다고 밝혔다. 황정아 의원은 제타에서 성인 인증 없이 미성년자 캐릭터가 등장하는 성폭력 및 성착취 장면이 생성됐다고 지적했다. 다만 해당 장면의 구체적인 내용은 공개되지 않았다.
김선민 의원은 AI 캐릭터 챗 관련 민원 119건 가운데 76건이 아직 검토 중이며, '베이비챗' 신고 건은 494일째 검토가 이어지고 있다고 밝혔다.
한국인터넷자율정책기구(KISO)의 황용석 씨는 AI 캐릭터 챗에 대한 자율규제 가이드라인을 마련 중이며, 보호 연령을 잠정적으로 19세로 설정하고 있다고 말했다. KISO는 AI 캐릭터 챗 서비스에 대한 자율규제 가이드라인을 준비하고 있다.
황정아 의원은 스캐터랩이 유해 콘텐츠 차단 기능을 개선하기 시작했으며, 올해 4분기에 청소년 이용 시간 제한을 도입할 계획이라고 전했다. 스캐터랩은 제타를 운영하는 회사다.
한눈에 보기
제타와 크랙은 무엇인가요?
AI 캐릭터 챗 서비스로, 이번 국회 감사에서 미성년자 보호 미흡 문제가 제기됐다. 제타는 스캐터랩이 운영한다.
스캐터랩은 어떤 조치를 계획하고 있나요?
황정아 의원에 따르면 스캐터랩은 유해 콘텐츠 차단 기능을 개선하기 시작했고, 올해 4분기에 청소년 이용 시간 제한을 도입할 계획이다.