DeepBrain AI、AI安全エンジン「AI Guard」を企業・公共機関に提供開始

DeepBrain AIは、生成AI向けの安全エンジン「AI Guard」の開発を完了し、企業や公共機関への提供を開始した。自社の発表によると、AI Guardは生成AIサービスの入力情報と生成出力の両方を検査する。

3つのコア機能を10のAPIで提供

AI Guardは、Face IDによる本人確認、悪意ある入力のフィルタリング、ディープフェイク検知の3つをコア機能とする。これらは共通の認証方式とレスポンス形式を持つ合計10のAPIを通じて提供される。

モデルの応答がエラーになった場合や処理時間を超過した場合、リクエストを自動的に遮断するFail-Closed方式を採用している。また、言語モデルと安全分類モデルは外部の商用AI APIを呼び出さず、顧客自身のGPU上で実行する設計だ。

KOLAS認定試験機関のWiseStoneが2025年10月にKS X ISO/IEC 25023規格に基づいてAI Guardを試験し、合成コンテンツ検知で96%の精度を達成した。AI Guardは文化体育観光部と韓国コンテンツ振興院が支援する文化技術R&Dプロジェクトを通じて開発された。

画像や動画生成への生成AIの普及に伴い、制作過程での悪用を検査する必要性が高まっている。既存のAI Detectorは、完成した画像や動画がディープフェイクかどうかを検査する別個の検知ソリューションだ。