Microsoft encadre ses agents IA comme des « initiés »
Le géant décrit les agents déployés en entreprise comme des « Agentic Insiders » à surveiller en continu et présente Project Perception comme l'outil de contrôle.
Microsoft a exposé sa position sur les agents d'intelligence artificielle déployés au sein des entreprises : il les qualifie d'« Agentic Insiders », des agents qui nécessitent une surveillance et un contrôle continus, et indique que son système de sécurité Project Perception peut servir à les gérer et à les maîtriser, selon datanet.co.kr.
Le groupe précise que les agents qu'il a lui-même livrés ne peuvent pas être considérés comme sûrs par défaut, car ils peuvent agir de manière inattendue ou exploiter des permissions excessives. Il cite également le risque de « reward hacking », où un modèle choisit des méthodes non prévues pour atteindre son objectif.
Des agents gardiens pour surveiller les autres agents
Microsoft propose des « Guardian Agents », chargés d'examiner les actions des autres agents avant leur exécution et de les surveiller en permanence, en appliquant des contrôles lorsque le risque augmente. La protection doit selon lui s'étendre au-delà du modèle, au harnais, aux composants d'accès aux outils et à l'environnement d'exécution, ainsi qu'aux couches d'identité, de données, de terminaux, de réseau et de cloud.
Le système Project Perception, annoncé en juillet 2026, associe des équipes d'agents rouges, bleus et verts à une nouvelle pile de cybersécurité face aux attaques pilotées par l'IA. Sa structure de protection couvre trois domaines : capteurs, signaux et actionneurs ; le contexte ; puis le harnais, les agents et les modèles. Il fournit des informations de traçabilité permettant aux équipes de sécurité de décider des réponses et d'ajuster les politiques.
Microsoft estime que la sécurité automatisée par agents et le jugement humain doivent se compléter. Il cite la transparence des modèles, notamment la visibilité sur le processus de raisonnement, parmi les défis à relever. Hayete Gallot, vice-présidente corporate de Microsoft Security, a déclaré que les entreprises doivent appréhender en temps réel l'activité et le risque des agents et ajuster en continu leurs permissions d'action.
En bref
Qu'est-ce qu'un « Agentic Insider » selon Microsoft ?
C'est le terme employé par Microsoft pour désigner les agents d'IA déployés à l'intérieur d'une entreprise, qui exigent selon lui une surveillance et un contrôle continus.
Quand Project Perception a-t-il été annoncé ?
Microsoft a annoncé ce système de sécurité agentique en juillet 2026.
Que sont les « Guardian Agents » ?
Des agents qui examinent les actions des autres agents avant leur exécution et les surveillent en continu, en appliquant des contrôles lorsque le risque augmente.