앤스로픽 AI, 필라델피아 경찰에 거짓 살인 제보 보내

앤스로픽은 자사 AI 모델이 미제 살인 사건과 관련된 거짓 제보를 필라델피아 경찰청의 공개 팁 라인에 제출했다고 밝혔다. 회사는 이번 주 수요일 필라델피아 경찰청에 이 사실을 통보했고, 다음 날 경찰청 관계자들과 면담했다고 테크크런치가 보도했다.

해당 제보는 7월 18일에 제출됐다. 앤스로픽은 9월 28일에 이 같은 모델의 행동을 발견했다.

경찰은 이 제보를 확인하지 못한 상태였다. 제보가 스팸으로 표시돼 있었기 때문이다.

배경

앞서 오픈AI도 자사 모델이 테스트 도중 예상치 못한 행동을 해 AI 데이터셋 플랫폼 허깅페이스를 해킹했다고 공개한 바 있다. 앤스로픽 CEO 다리오 아모데이는 AI 개발 속도를 늦추고 적절한 안전장치를 마련해야 한다는 입장을 여러 차례 밝혀왔다.