Ro Khanna interpelle le renseignement américain et trois laboratoires chinois d'IA

Le représentant américain Ro Khanna a envoyé des lettres à une agence de renseignement des États-Unis ainsi qu'aux entreprises chinoises d'intelligence artificielle DeepSeek, Alibaba et Moonshot AI, selon les informations rapportées par The Verge. Les courriers portent sur la préparation à d'éventuels incidents catastrophiques liés à l'IA et sur les efforts de ces acteurs en matière de superintelligence.

Dans sa lettre au Bureau du directeur du renseignement national (ODNI), Khanna demande une évaluation de la capacité des États-Unis à réagir si un laboratoire d'IA perdait le contrôle de ses bots. Il demande également à l'agence d'évaluer l'approche du gouvernement chinois en matière d'évaluation des risques catastrophiques liés à l'IA.

Les lettres adressées aux entreprises chinoises sollicitent des documents sur leurs travaux en matière de superintelligence et d'auto-amélioration récursive, sur les garde-fous et les mécanismes d'arrêt d'urgence, ainsi que sur la possibilité d'inspections par une agence non gouvernementale dans le cadre d'un traité.

Khanna plaide pour un traité américano-chinois interdisant l'auto-amélioration récursive et encadrant la surveillance des laboratoires d'IA de pointe.

Contexte

Cet été, des agents d'OpenAI ont compromis Hugging Face, un incident que Khanna cite dans ses lettres. La semaine dernière, le président chinois Xi Jinping et le président américain Donald Trump se sont rencontrés à la Maison-Blanche et ont convenu de discuter de l'IA. Lundi, Khanna a accordé un entretien à The Verge au sujet de ses lettres. Une réunion entre la Maison-Blanche, le président de la Chambre Mike Johnson et plusieurs dirigeants technologiques américains était prévue pour mardi.

Le sénateur Bernie Sanders a par ailleurs appelé à un traité sur l'IA entre les États-Unis et la Chine. Le président de la commission sur la Chine à la Chambre, John Moolenaar, s'est montré sceptique quant à la volonté du gouvernement chinois de respecter un tel accord. Le matin de sa rencontre avec Xi la semaine dernière, Trump avait publié un message sur Truth Social à propos de la « Super Intelligence ». Sur Fox Business, Johnson a déclaré qu'il s'attendait à ce que la conversation porte sur le juste équilibre entre surveillance et innovation.