Nadella : les modèles d'IA doivent être supposés compromis et contenus dès le départ
Le PDG de Microsoft appelle à un frein d'urgence permettant de suspendre un modèle en pleine tâche et à des audits indépendants.
Satya Nadella, PDG de Microsoft, a publié un long message sur X exposant son point de vue sur les dangers des modèles d'IA très avancés et sur la manière d'y faire face, selon theverge.com. Il y appelle à traiter ces modèles comme supposés compromis et contenus dès le départ.
Nadella juge qu'un monde où l'IA est considérée comme un ensemble de boîtes noires imbriquées, dont les conseils et les actions sont simplement acceptés ou rejetés, n'est plus acceptable. Il demande un système plus transparent, où les modèles peuvent être contenus et observés, en laissant derrière eux des preuves lisibles par l'homme et infalsifiables.
Le PDG de Microsoft estime qu'une personne autorisée doit toujours pouvoir mettre en pause ou arrêter un modèle en pleine tâche. Il ajoute que des modèles plus avancés exigeront des technologies de confinement plus avancées, qui devront faire l'objet de normes communes.
Ses recommandations incluent la divulgation rapide des incidents, des audits indépendants, des données vérifiables et le confinement. Dans son message, Nadella désigne l'IA sous le terme de Superintelligence.
En bref
Que propose Satya Nadella pour encadrer les modèles d'IA avancés ?
Il recommande la divulgation rapide des incidents, des audits indépendants, des données vérifiables et le confinement des modèles, avec la possibilité pour une personne autorisée de les mettre en pause ou de les arrêter en pleine tâche.
Où Satya Nadella a-t-il publié ses propositions ?
Dans un long message publié sur X.