OpenAI doute qu'une méthode scientifique détecte un jour les images IA

Lors d'une réunion tenue le 15 octobre à Boston, Shira Anderson, juriste chargée des politiques chez OpenAI, a déclaré qu'elle ne pensait pas qu'une méthode scientifique permettant de détecter les images générées par IA existerait un jour, selon japan.cnet.com.

Elle a expliqué que les systèmes de détection diffèrent d'une entreprise à l'autre et ne deviendront pas totalement fiables. OpenAI indique que certaines de ses images portent des informations de provenance C2PA et des filigranes numériques, mais que ces éléments peuvent disparaître lors d'une retouche ou d'une conversion de format de fichier.

La réunion était organisée par le comité consultatif sur les règles de preuve de la Conférence judiciaire des États-Unis, pour examiner la question des preuves truquées par deepfake devant les tribunaux.

Une règle encore à l'état de projet

Un projet de règle imposerait à la partie qui soumet une preuve contestée de démontrer au tribunal qu'elle est selon toute probabilité authentique, dès lors que la partie adverse avance un début de motif de doute. Selon les documents de la réunion du 15 octobre, la proposition n'avait pas reçu d'approbation définitive.

Le sujet est déjà apparu dans les travaux du comité : un procès-verbal provisoire d'une réunion du 7 mai indiquait que 15 juges fédéraux sur 931 interrogés avaient été confrontés à une objection affirmant qu'une preuve était un deepfake.