OpenAI弁護士、AI画像の科学的検出は将来も困難と証言

米国司法会議の証拠規則諮問委員会は15日、法廷におけるディープフェイク証拠を議題とする会合をボストンで開き、OpenAIの政策弁護士シラ・アンダーソン氏がAI生成画像の検出について見解を述べた。japan.cnet.comが報じた。

アンダーソン氏は、AIが生成した画像を科学的な方法で見分ける手法が将来確立されるとは考えていないと述べた。検出システムは企業ごとに異なり、完全に信頼できるものにはならないとの認識も示した。

OpenAIによると、同社の画像の一部にはC2PA規格に基づく来歴情報と電子透かしが付与されているが、編集やファイル形式の変換によって失われることがある。

委員会では、争いのある証拠について、異議を唱える側が疑わしいとする根拠を示した場合、提出側が真正である可能性の方が高いことを裁判所に示すことを求める規則案が議論された。15日時点の会合資料では、この提案は最終承認を受けていない。

裁判官の経験

5月7日の会合の議事録草案によると、調査に応じた連邦裁判官931人のうち15人が、証拠がディープフェイクだとする異議に遭遇したと回答している。