Un professeur sud-coréen appelle à vérifier la chaîne d'approvisionnement de l'IA

Le 22 octobre 2026, un professeur de l'université Kyonggi a présenté, lors de l'atelier « 2026 AI x RMF » organisé par la KIISC au Samsung SDS West Campus de Séoul, une intervention consacrée à la surface d'attaque de la chaîne d'approvisionnement de l'IA agentique et à un système de vérification automatisée de l'AI-BOM, rapporte dailysecu.com.

Selon l'enseignant, les agents d'IA sélectionnent désormais eux-mêmes des paquets open source, ce qui permet au risque de chaîne d'approvisionnement de se propager à travers les dépendances, les données d'entraînement, les modèles et les accès au cloud. Il a cité LiteLLM, avec environ 97 millions de téléchargements mensuels et 1 705 paquets de dépendances, ainsi que Trivy, comme exemples de composants open source impliqués dans des incidents de chaîne d'approvisionnement.

Un « blast radius » qui dépasse le paquet compromis

Le conférencier a décrit la notion de « blast radius » : la compromission d'un seul paquet ou modèle peut atteindre les outils de développement, les systèmes de déploiement et l'infrastructure cloud.

Il a présenté l'AI-BOM (AI Bill of Materials), une extension du SBOM, comme point de départ pour vérifier les composants de la chaîne d'approvisionnement de l'IA. Il a souligné qu'il ne s'agit pas en soi d'une solution de sécurité, mais d'une base de transparence et d'évaluation des risques, et a plaidé pour une vérification automatisée tout au long du cycle CI/CD.

Le professeur a également cité l'AI Act européen, le Cyber Resilience Act, les marchés publics fédéraux américains et FedRAMP comme autant de cadres qui s'orientent vers des preuves de sécurité lisibles par machine. Dans le contexte, il a rappelé le cas du jeu de données LAION-5B, utilisé pour l'entraînement de modèles d'IA, dans lequel des contenus inappropriés ont été trouvés, illustrant selon lui la nécessité de suivre la provenance des données.