오픈AI, 청소년용 ChatGPT 안전 조치 공개

오픈AI가 10월 30일(현지시간) 공개한 커뮤니티 안전 보고서에서 청소년 보호를 위한 새로운 ChatGPT 조치를 발표했다. 보고서에 따르면 청소년 사용자에게는 폭력 의도가 드러나지 않는 질문이라도 무기와 보안 시스템에 관한 실용적 정보가 제한된다.

ChatGPT가 폭력에 대한 집착 징후를 감지하면 대화를 자동으로 종료할 수 있으며, 이런 사례가 반복되면 계정이 일시 정지될 수 있다. 폭력 관련 대화가 반복돼 청소년 계정이 정지될 경우 부모에게 알림이 전송된다.

연령 추정 시스템도 도입된다. 사용자가 성인으로 나이를 설정했더라도 18세 미만으로 판단되면 자동으로 청소년용 ChatGPT 환경으로 전환된다. 아울러 과거 대규모 공격에 대한 정보는 사용된 무기와 입수 경로 등 세부 내용을 포함해 모든 사용자에게 제한된다.

법 집행기관 신고와 향후 계획

오픈AI는 2026년 3분기 동안 200건이 넘는 위협 사례를 법 집행기관에 신고했다고 밝혔다. 또한 앞으로 안전 보고서를 1년에 두 차례 발간할 계획이다. 이번 조치들은 향후 몇 주에 걸쳐 순차적으로 적용된다.

앞서 2026년 10월 오픈AI의 첫 청소년 사용 보고서는 청소년이 ChatGPT를 하루 평균 15분 미만 사용한다고 밝혔다. 같은 달 커먼 센스 미디어는 청소년 계정에서 자살, 자해, 섭식장애 관련 대화에 대한 부모 알림이 늦거나 누락된 사례가 있었다며 청소년 보호 장치에 한계가 있다는 보고서를 발표했다.