경찰청·씽크포비엘, AI 영향평가·위험관리 체계 완성

경찰청 미래치안정책국과 AI 신뢰성 기술 기업 씽크포비엘은 AI 영향평가와 위험관리 기준을 수립하는 공동 연구과제를 완료했다고 밝혔다. 이번 연구에서는 경찰이 운영 중이거나 도입을 계획 중인 AI 시스템 29종의 위험도를 검토했다.

새 체계는 기획, 개발, 운영 전 단계에 걸쳐 AI 위험을 지속적으로 관리할 수 있도록 조직 차원의 통합 시스템으로 구성됐다. 발주 단계에서 AI 도입 적합성과 위험을 판단하고, 개발 과정에서 신뢰성 기준을 검증하며, 운영 단계에서는 적정성을 점검하는 방식이다.

이 시스템은 AI 영향평가, 위험관리 정책, 조직 구조, 조달 지침, 안전성·신뢰성 문서를 하나로 연결한다. 중대한 문제가 발생하면 AI 운영을 중단할 수 있게 했고, 담당자가 바뀌어도 위험 판단 근거 기록이 남도록 했다.

기준에는 국내 AI 관련 법령 외에 EU AI Act, ISO 국제표준, 미국 NIST의 AI 위험관리 프레임워크가 반영됐다. 씽크포비엘은 2026 경찰 AI 공동 학술세미나에서 이번 연구 결과를 발표했다.

후속 일정

최종 연구보고서는 오는 11월 공개될 예정이다. 경찰청과 씽크포비엘은 지난 7월부터 이 연구를 공동으로 진행해 왔다. 공공기관에 AI 영향평가와 위험관리 조치를 의무화하는 AI데이터행정법은 내년 2월 시행된다.