OpenAI va intégrer un filigrane invisible dans les textes générés par ChatGPT
OpenAI annonce un filigrane lisible par machine dans les sorties texte de ses modèles, d'abord en option, puis imposé dans l'UE pour se conformer à l'AI Act.
OpenAI a annoncé qu'il allait insérer un filigrane invisible et détectable par machine dans tous les textes générés par ses modèles d'IA, dont ChatGPT et Codex. Le dispositif sera proposé en option au niveau mondial à partir d'aujourd'hui.
Dans les semaines à venir, ce filigrane sera appliqué automatiquement, sans possibilité de le désactiver, aux sorties texte éligibles de ChatGPT et de Codex dans l'Union européenne.
Selon OpenAI, cette mesure aligne l'entreprise sur l'AI Act européen, qui impose aux textes produits par un modèle de porter un identifiant lisible par machine. L'entreprise s'est engagée dans cette voie depuis un certain temps.
Un détecteur réservé aux experts
L'accès au détecteur de filigrane d'OpenAI sera accordé aux chercheurs et aux organisations expertes au cas par cas, et non au grand public lors du lancement, en raison du risque de faux positifs.
Plusieurs acteurs du secteur ont déjà mis en place des marqueurs comparables. Anthropic a lancé un dispositif similaire en août, ce qui a conduit des utilisateurs à chercher des moyens d'effacer l'indicateur de leurs textes. Google DeepMind filigrane ses sorties depuis quelques années ; en août, l'entreprise a annoncé que les utilisateurs pouvaient retirer les filigranes de leurs images, vidéos et chansons dans les pays où ils ne sont pas obligatoires. Un sondage récent du Rainey Center indique que près de 8 personnes sur 10 soutiennent l'obligation de filigraner les contenus générés par IA, dont 82 % des démocrates et 75 % des républicains.
En bref
Quand le filigrane d'OpenAI sera-t-il appliqué automatiquement ?
Il sera appliqué automatiquement, sans possibilité de le désactiver, aux sorties texte éligibles de ChatGPT et de Codex dans l'Union européenne dans les semaines à venir.
Qui pourra utiliser le détecteur de filigrane d'OpenAI ?
L'accès sera accordé aux chercheurs et aux organisations expertes au cas par cas, et non au grand public lors du lancement, en raison du risque de faux positifs.
Pourquoi OpenAI ajoute-t-il ce filigrane ?
Selon OpenAI, ce dispositif permet de se conformer à l'AI Act européen, qui exige que les textes générés par un modèle portent un identifiant lisible par machine.