Anthropic propose une loi sur la sécurité des IA
Le texte permettrait au département du Commerce de bloquer un modèle uniquement en cas de risque d'un milliard de dollars ou de plus de 50 morts ou blessés.
Anthropic fait pression en faveur d'un projet de loi sur la sécurité des systèmes d'intelligence artificielle qui autoriserait le département du Commerce à bloquer la sortie d'un modèle uniquement lorsqu'il présente un risque d'au moins 1 milliard USD de dommages, ou de plus de 50 morts ou blessés, selon Politico.
Le dispositif prévoit qu'un évaluateur indépendant, enregistré auprès du département du Commerce, examine périodiquement le laboratoire et ses modèles. Cet évaluateur pourrait être rémunéré par le laboratoire, à condition que ce paiement ne nuise pas à son indépendance. Il devrait signaler au département tout risque imminent dans un délai de 72 heures.
Le texte couvre les risques liés à la création ou à la dissémination d'armes biologiques, aux cyberattaques assistées par IA et à la perte de contrôle d'un modèle ou d'agents par un laboratoire. Le département présenterait ensuite les éléments de preuve à un juge fédéral de la district court du District de Columbia, qui déciderait ou non de suspendre la sortie. Aucun autre service, agence ou responsable américain ne pourrait ordonner à un laboratoire de cesser la sortie d'un modèle.
Un porte-parole d'Anthropic a déclaré que le projet reflétait les propositions de l'Advanced AI Framework de l'entreprise, défendues auprès des élus fédéraux et des États depuis juin.
Ce cadre intervient dans un contexte où le Congrès travaille à une proposition imposant des interrupteurs d'urgence sur les modèles les plus puissants, et où le sénateur Bernie Sanders a proposé une peine de 20 ans de prison pour quiconque développerait une superintelligence artificielle.
En bref
Que prévoit le projet de loi soutenu par Anthropic ?
Il permettrait au département du Commerce de bloquer la sortie d'un modèle d'IA uniquement en cas de risque d'au moins 1 milliard USD de dommages ou de plus de 50 morts ou blessés, après avis d'un évaluateur indépendant et décision d'un juge fédéral.
Qui déciderait de bloquer un modèle ?
Le département du Commerce présenterait les preuves à un juge fédéral de la district court du District de Columbia, qui déciderait de suspendre ou non la sortie.