Anthropic propose un projet de loi sur la sécurité de l'IA
Le texte permettrait de bloquer la sortie d'un modèle en cas de risque imminent de plus de 50 morts ou de plus d'un milliard de dollars de dégâts, selon Politico.
Anthropic fait circuler un projet de loi sur la sécurité de l'intelligence artificielle qu'il espère voir le Congrès examiner et adopter, rapporte Politico. Un porte-parole du laboratoire a confirmé l'existence du texte à la publication.
Le projet prévoit de bloquer la mise à disposition d'un modèle lorsqu'un risque prévisible et imminent menace la vie de plus de 50 personnes ou plus d'un milliard de dollars de dégâts matériels. Ce seuil de risque catastrophique est limité à trois cas : la création ou la diffusion d'une arme biologique, le contournement des contrôles du développeur par le modèle, ou une cyberattaque.
Des évaluateurs agréés par le Commerce
Le texte instaure des évaluateurs indépendants enregistrés auprès du département au Commerce des États-Unis, chargés d'apprécier le potentiel de catastrophe d'un modèle. Les laboratoires pourraient les rémunérer, à condition que le paiement ne dépende pas des résultats de l'évaluation.
Une fois un risque catastrophique imminent constaté, les évaluateurs disposeraient de 72 heures pour en informer le département du Commerce. Celui-ci devrait alors saisir un juge de Washington pour faire suspendre la sortie du modèle. Le projet interdit expressément à toute agence fédérale de stopper elle-même la distribution d'un modèle.
Depuis juin, Anthropic défend les propositions de son Advanced AI Framework auprès des élus fédéraux et des États, selon un porte-parole. En Californie, le Senate Bill 53, récemment promulgué, retient des seuils comparables pour définir le risque catastrophique.
En bref
Quels seuils le projet de loi d'Anthropic retient-il ?
Le texte vise les cas où plus de 50 personnes pourraient mourir ou plus d'un milliard de dollars de dégâts matériels survenir.
Qui évaluerait les modèles ?
Des évaluateurs indépendants enregistrés auprès du département au Commerce des États-Unis.
Le texte a-t-il été déposé au Congrès ?
Anthropic fait circuler un projet de loi et espère que le Congrès l'examinera ; aucun dépôt n'est mentionné.