Microsoft réclame des règles mondiales de sécurité pour l'IA

Brad Smith, président de Microsoft, a appelé à un renforcement des règles mondiales de sécurité pour l'intelligence artificielle lors d'un entretien accordé à la BBC. Il a demandé que les entreprises soient légalement tenues de notifier les victimes lorsque leurs systèmes sont compromis par des agents d'IA malveillants, et de signaler les incidents de sécurité.

Smith a également plaidé pour des règles déterminant quand des évaluateurs indépendants doivent examiner les nouveaux modèles d'IA avant leur sortie. Il a aussi réclamé des « freins d'urgence » ou interrupteurs capables d'arrêter les systèmes d'IA qui deviennent incontrôlables.

Selon lui, le Royaume-Uni pourrait être un bon point de départ pour élaborer des normes mondiales de sécurité de l'IA, en s'appuyant sur son AI Security Institute.

Un débat relancé

Ces déclarations interviennent après que Satya Nadella, PDG de Microsoft, a écrit samedi dans un message sur X que les modèles d'IA devraient disposer de freins d'urgence permettant aux humains de les mettre en pause ou de les arrêter en pleine tâche.

Le débat sur la régulation de l'IA reste ouvert aux États-Unis. Le président Donald Trump a largement défendu l'idée d'une autorégulation du secteur, arguant qu'une régulation excessive pourrait désavantager les États-Unis dans la course à l'IA face à la Chine. Le 29 septembre, lors d'une réunion à la Maison-Blanche, des dirigeants de Google, Meta, Anthropic, OpenAI, xAI et Nvidia ont signé un accord volontaire fixant des normes de sécurité limitées, que Trump a qualifié de « moralement contraignant ».