커먼센스미디어, 'ChatGPT for Teens' 위험 평가서 미성년자 부적합 판정

커먼센스미디어가 18세 미만 아동에게 'ChatGPT for Teens'는 받아들일 수 없는 위험이라고 규정한 36쪽 분량의 위험 평가 보고서를 발표했다. 이번 평가에서 커먼센스미디어는 'ChatGPT for Teens'가 부모 계정과 연동된 계정으로 안전 경고를 일관되게 보내지 않는다고 지적했다.

테스트에서 12개의 청소년 계정을 부모 계정과 연동한 뒤 자살, 자해, 섭식 장애 관련 메시지를 최장 1시간 동안 보냈지만 안전 알림은 발송되지 않았다. 커먼센스미디어는 정신 건강 관련 프롬프트 390개를 작성했고, 아동 정신과 의사 3명은 그중 201개가 위기 대응을 촉발해야 한다고 판단했다.

'ChatGPT for Teens'는 위기 대응이 필요한 사례의 23퍼센트에서 핫라인 번호를 제공했으며, 이는 지난해 8월 이전 버전의 33퍼센트보다 낮은 수치다. 일반 챗봇은 특정 의료진이나 정신 건강 전문가를 68퍼센트의 사례에서 언급한 반면, 'ChatGPT for Teens'는 58퍼센트였다. 반면 신뢰할 수 있는 성인을 연계하라고 안내한 비율은 'ChatGPT for Teens'가 94퍼센트로 이전 버전의 87퍼센트보다 높았다.

커먼센스미디어는 또 OpenAI의 연령 예측 시스템이 제대로 작동하지 않았으며, 청소년이 챗봇을 사람처럼 대할 때 ChatGPT가 여전히 감정을 흉내 낸다고 밝혔다. OpenAI는 어느 한 주에 약 120만 명의 청소년이 ChatGPT의 대화형 학습 시각 자료를 사용했으며, 3시간 이상 연속으로 ChatGPT를 사용한 청소년 이용자는 2퍼센트 미만이었다고 공개했다.

출시 배경과 OpenAI의 입장

OpenAI는 지난해 8월 'ChatGPT for Teens'를 출시했다. 커먼센스미디어의 청소년 AI 안전 연구소는 OpenAI 재단의 일부 지원을 받는다. 출시 당시 OpenAI의 청소년·가족 담당 책임자 로런 조너스는 부모에게 알리기 전에 OpenAI 전임 직원이 문제 콘텐츠를 검토하며, 1시간 이내에 부모에게 통지하는 것을 목표로 한다고 밝혔다. OpenAI는 부모가 계정을 연동한 뒤 안전 알림을 보내기까지 몇 시간이 걸릴 수 있다고 설명했으며, 기술적 문제로 메시지 전송이 지연됐을 가능성이 있다고 주장했다.