Nadella réclame un « frein d'urgence » humain pour les IA avancées
Dans un post publié le 10 octobre 2026 sur X, le PDG de Microsoft demande que des personnes autorisées puissent interrompre un modèle d'IA à tout moment.
Le PDG de Microsoft, Satya Nadella, a publié le 10 octobre 2026 un post sur X dans lequel il affirme que les systèmes d'intelligence artificielle de haute performance ont besoin d'un frein d'urgence contrôlé par l'humain et de mécanismes de contrôle indépendants. Selon le dirigeant, il faut partir du principe que les modèles d'IA sont déjà compromis et les isoler dès le départ.
Nadella précise que des personnes autorisées doivent pouvoir mettre un modèle en pause ou y mettre fin à tout moment, y compris en pleine tâche. Il plaide pour la combinaison d'une conception déterministe des systèmes, d'un contrôle humain et de procédures opérationnelles fiables. Les modèles fermés de premier plan comme les modèles à poids ouverts doivent, selon lui, être traités comme des menaces internes potentielles.
Une couche d'orchestration externe et des journaux inaltérables
Le PDG de Microsoft estime que les modèles et l'infrastructure qui orchestre leur travail doivent être physiquement séparés. Le contrôle des permissions et des limites d'action des modèles doit résider dans une couche d'orchestration externe, en dehors du modèle, avec des enregistrements d'audit inaltérables de toutes les actions clés.
Parmi ses principes de sécurité figurent la diversité des modèles pour valider les décisions, des tests continus, une surveillance et un audit indépendants, l'isolation de l'activité de l'IA et la divulgation des incidents de sécurité, rapporte aitimes.com.
En amont, Anthropic et OpenAI ont récemment divulgué une série de dysfonctionnements et d'incidents de sécurité impliquant des modèles et des agents d'IA. Le PDG d'Anthropic, Dario Amodei, a pour sa part défendu un ralentissement du rythme de développement de l'IA de frontière et un renforcement de la sécurité.
En bref
Qu'a demandé Satya Nadella ?
Un frein d'urgence contrôlé par l'humain, des mécanismes de contrôle indépendants et la possibilité pour des personnes autorisées d'interrompre un modèle d'IA à tout moment, même en pleine tâche.
Où le contrôle des permissions des modèles doit-il se situer ?
Dans une couche d'orchestration externe, en dehors du modèle, avec des enregistrements d'audit inaltérables de toutes les actions clés.
Quand ce post a-t-il été publié ?
Le 10 octobre 2026, sur X.