Anthropic fait circuler un ver d'IA sur 15 téléviseurs connectés

L'équipe de recherche offensive d'Anthropic a indiqué avoir conçu un programme d'IA malveillant capable de se propager de façon autonome sur des téléviseurs connectés à internet. Le programme a été réparti sur 15 téléviseurs, chacun fournissant une petite part de puissance de calcul, rapporte The Guardian.

Les chercheurs affirment que l'opération serait reproductible sur d'autres appareils du quotidien. Ils soulignent que les objets connectés reçoivent moins souvent des correctifs de sécurité que les téléphones ou les ordinateurs portables, ce qui rendrait ces vers d'IA plus difficiles à arrêter.

L'équipe avance aussi l'hypothèse qu'un ver d'IA pourrait examiner seul des vulnérabilités récemment divulguées et passer d'un matériel à un autre. Elle reconnaît toutefois que ces programmes devraient accomplir sur des appareils peu puissants davantage de tâches qu'ils n'en sont capables aujourd'hui.

Selon les chercheurs, la technologie n'a pas encore atteint ce niveau, mais pourrait y parvenir dans l'année au rythme actuel de développement. Anthropic n'a pas répondu à la demande d'entretien du Guardian.

Des avis partagés dans la filière sécurité

Ariel Herbert-Voss, qui dirige la startup de sécurité IA Lunasec, note que les modèles d'IA se distinguent des virus classiques parce qu'ils apprennent en se déplaçant. Joshua Saxe, ancien responsable du développement de la sécurité IA chez Meta, estime que le secteur ne prend pas ce risque assez au sérieux. Jonas Guan, doctorant à l'Université de Toronto, juge pour sa part que le ver d'Anthropic se déplace très lentement et que son comportement est prévisible et détectable, ce qui permet de le bloquer à plusieurs étapes.

Juan Andres Guerrero-Saade, vice-président de la recherche chez SentinelOne, qualifie l'exercice de coup de communication qui promeut des scénarios apocalyptiques absurdes sur des modèles d'IA dotés d'une volonté propre. Les experts rappellent que des pratiques de base, comme des mots de passe robustes et l'authentification à deux facteurs, suffisent à arrêter la plupart des vers. Par le passé, des vers comme NotPetya et WannaCry avaient causé d'importants dégâts dans le monde.