Anthropic : une IA auto-réplicante d'ici quelques mois, selon une nouvelle recherche

Anthropic a publié une nouvelle recherche et un billet de blog avertissant qu'une intelligence artificielle auto-réplicante, décrite comme un « digital slime mold », pourrait se propager sur les appareils connectés grand public d'ici quelques mois, selon gizmodo.com.

Dans ce billet, l'entreprise affirme que GLM-5.2, un modèle à poids ouverts de plusieurs centaines de milliards de paramètres développé par le chinois Z.ai, est déjà capable de se répliquer de bout en bout. Anthropic estime que si les petits modèles progressent à leur rythme historique, ils atteindront ce niveau de capacité d'ici la fin de l'année.

Des tests sur quinze téléviseurs Android

Pour étayer ses travaux, Anthropic a mis en réseau quinze téléviseurs Android de marque générique, d'un coût d'environ 55 dollars chacun et dotés de 4 gigaoctets de mémoire, afin de faire tourner l'inférence du modèle à poids ouverts Gemma4-26B-A4B de Google sans centre de données externe. L'entreprise a également testé la capacité des modèles à poids ouverts actuels à s'auto-répliquer sur deux réseaux distincts de huit nœuds, reliés par un nœud pivot.

Anthropic précise que le scénario le plus probable reste celui d'un modèle de 30 milliards de paramètres ou moins s'auto-répliquant sur des appareils en périphérie de réseau. L'entreprise conclut que la menace d'un réplicateur entièrement incontrôlé demeure entièrement théorique et appelle à durcir les systèmes contre de tels réplicateurs.

Plus tôt cette année, une équipe universitaire avait utilisé un LLM open source anonyme pour créer un ver dopé à l'IA, exploitant notamment des mots de passe réutilisés pour se propager sur des appareils Linux, Windows et IoT.