플로리다 여성, Claude에 경찰 위협 메시지 남겨 체포
앤스로픽의 안전 모니터링 시스템이 플로리다 여성의 경찰 위협 메시지를 감지해 수사기관에 통보했고, 여성은 2급 중범죄로 기소됐다.
플로리다주 보니타스프링스에 사는 30세 여성이 앤스로픽의 챗봇 Claude와 나눈 대화에서 지역 경찰을 위협한 혐의로 지난달 체포됐다. 기즈모도 보도에 따르면 체포 영장 기록에는 첫 번째 위협이 9월 26일 오전 5시 10분, 두 번째 위협이 9월 27일 오전 1시 7분에 각각 기록됐다.
앤스로픽의 자동 안전 모니터링 시스템이 해당 메시지를 감지했고, 사람 검토자가 이를 확인해 수사기관에 알렸다. 여성은 자택에서 별다른 저항 없이 체포됐으며, 플로리다주에서 2급 중범죄에 해당하는 서면 폭력 위협 혐의로 기소됐다.
리 카운티 보안관 카민 마르체노는 WINK News에 여성이 Claude를 일기처럼 사용한다고 설명했다고 밝혔다. 앤스로픽은 기즈모도의 논평 요청에 즉시 답변하지 않았다.
한눈에 보기
앤스로픽의 Claude는 어떤 방식으로 위협 메시지를 감지했나?
앤스로픽의 자동 안전 모니터링 시스템이 메시지를 감지했고, 사람 검토자가 이를 확인해 수사기관에 통보했다.
체포된 여성에게 적용된 혐의는 무엇인가?
플로리다주에서 2급 중범죄에 해당하는 서면 폭력 위협 혐의다.