韓国警察庁とThinkforBL、AI影響評価とリスク管理の枠組みを構築

韓国警察庁の未来警察政策局とAI信頼性技術企業のThinkforBLが、AI影響評価とリスク管理の基準を定める共同研究を完了した。datanet.co.krが報じた。ThinkforBLは、警察庁が運用中または導入予定のAIシステム29件についてリスク水準を検討した。

今回の枠組みは、企画・開発・運用の各段階でAIリスクを継続的に管理する組織レベルの統合システムとして構築された。発注段階でAI導入の適否とリスクを判断し、開発段階で信頼性の基準を検証し、運用段階で妥当性を確認する内容だ。

システムは、AI影響評価、リスク管理方針、組織体制、調達ガイドライン、安全性・信頼性に関する文書を相互に連携させる。深刻な問題が発生した場合にAIの運用を停止でき、担当者が交代してもリスク判断の根拠を記録として残すことを求める。

枠組みには国内のAI関連法に加え、EU AI法、ISO国際規格、NISTのAIリスク管理フレームワークが反映された。最終的な研究報告書は11月に公開される予定だ。

両者は7月にAI影響評価とリスク管理の基準に関する共同研究を開始していた。公共機関にAI影響評価とリスク管理措置を義務付けるAIデータ行政法は、来年2月に施行される。ThinkforBLは2026年の警察AI合同学術セミナーで研究成果を発表した。