Plus de 400 chercheurs réclament une instance internationale pour encadrer l'IA
Geoffrey Hinton et Yoshua Bengio figurent parmi les signataires d'une lettre ouverte publiée le 13 octobre réclamant un registre mondial des incidents de sécurité liés à l'IA.
Plus de 400 chercheurs issus de 34 pays, dont les spécialistes de l'intelligence artificielle Geoffrey Hinton et Yoshua Bengio, ont publié le 13 octobre une lettre ouverte appelant à la création d'une organisation internationale chargée de superviser les systèmes d'IA dotés de capacités avancées de cyberattaque, selon aitimes.com.
Cette instance fixerait des normes de confinement applicables à l'ensemble du secteur et tiendrait un registre des incidents de sécurité majeurs. Les signataires proposent que ce registre soit à terme rendu public.
La lettre demande que les modèles d'IA de pointe soient isolés par « air gap », c'est-à-dire coupés des réseaux externes, lors de leur premier déploiement ou de leurs premiers tests, et placés sous supervision indépendante.
Elle invite les organisations qui développent et testent des IA à adopter immédiatement des normes de confinement élevées, en attendant que les gouvernements mettent en place des dispositifs de supervision formels.
Signataires en Corée du Sud
Parmi les signataires figurent Kim Beom-hyeon, de Hanyang University ERICA, ainsi que Kim Yong-dae et Son Su-el, de KAIST. Yann LeCun, colauréat du prix Turing 2018 avec Hinton et Bengio, n'a pas signé le texte.
Environ un mois avant cette lettre, des entreprises d'IA telles qu'Anthropic, OpenAI, Google, Meta et NVIDIA avaient signé un accord de la Maison-Blanche portant sur des mesures de sécurité volontaires, sans mécanisme d'application contraignant.
En bref
Qui a signé la lettre ouverte du 13 octobre ?
Plus de 400 chercheurs de 34 pays, dont Geoffrey Hinton et Yoshua Bengio, ainsi que Kim Beom-hyeon (Hanyang University ERICA) et Kim Yong-dae et Son Su-el (KAIST). Yann LeCun n'a pas signé.
Que demandent les chercheurs ?
Une organisation internationale qui fixe des normes de confinement pour les systèmes d'IA à capacités avancées de cyberattaque, tienne un registre des incidents majeurs, à terme public, et impose un isolement par « air gap » des modèles de pointe lors de leur premier déploiement ou test.