Les entreprises adoptent l’ IA agentique à un rythme accéléré, souvent plus rapidement que ce que leurs modèles de gouvernance peuvent prendre en charge. La volonté d’efficacité et d’innovation peut pousser les agents expérimentaux à entrer en production, créant de nouveaux risques sous-estimés pour les équipes chargées des opérations informatiques et de la cybersécurité.
Le défi n’est pas seulement de gérer des agents individuels, mais aussi de régir un écosystème étendu d’agents qui interagissent, délèguent et exécutent des décisions à la vitesse de la machine dans l’ensemble de l’entreprise. Lorsque les agents lancent une série de workflows automatisés, de petits désalignements ou de mauvaises configurations peuvent s’aggraver rapidement, en particulier lorsque les agents planifient de nouvelles approches, créent et délèguent à des agents subordonnés, accèdent aux données sensibles ou reconfigurent les systèmes plus rapidement que les humains ne peuvent le suivre, et encore moins gèrent.
En novembre dernier, McKinsey a signalé que 23 % des organisations font déjà évoluer un système d’IA agentique quelque part dans leur entreprise, et que 39 % d’autres expérimentent avec des agents. Dans les années d’adoption de l’IA, se novembre 2025 sent comme il y a une génération, et l’adoption à la mi-2026 est certainement plus élevée. La sortie du modèle Opus 4,6 d’Anthropic en février 2026 semblait éclairer un fusible dans l’ensemble du secteur et est corrélée avec les propres mars 2026 rapports d’Anthropic montrant que l’utilisation spécifique de la catégorie de workflow API axée sur l’automatisation a doublé depuis novembre 2025, et indique une augmentation du travail agentique axé sur l’automatisation via Claude Code et l’API Claude (et moins une augmentation des interactions de type chatbot avec Claude.ai). Ce rythme élargira également les lacunes de gouvernance qui deviennent plus difficiles à détecter et plus coûteuses à corriger.
En mars, le code source pour Claude Code (le front-end de ligne de commande pour interagir avec Claude) a été accidentellement publié par Anthropic. Bien qu’il n’ait pas libéré les joyaux de la couronne des méthodes d’entraînement ou des poids de modèle d’Anthropic, il a donné aux chercheurs plus d’une vue sur une couche des protections d’Anthropic. Les conseils sont, au moins du côté du client, la « défense par ondes » (une phrase que mon propre instance de Claude a référencée lorsque « nous » avons analysé la fuite de la carte source ensemble). Dans la 7 avril carte système Mythos Preview, Anthropic déclare : « La prévisualisation de Claude Mythos est, sur pratiquement toutes les dimensions que nous pouvons mesurer, le modèle le mieux aligné que nous avons publié à ce jour avec une marge significative. Même ainsi, nous pensons que cela pose probablement le plus grand risque lié à l’alignement de tout modèle que nous avons publié à ce jour. » C’est puissant, mais cela exige des garde-fous. Ils expliquent ensuite que ces capacités qui rendent le modèle si puissant sont également ce qu’ils attendent augmenteront les risques. Comme pour l’alpinisme, un guide plus expérimenté est nécessaire pour vous emmener sur des montées plus dangereuses, mais cela ne rend pas cela moins dangereux. Même lorsqu’elles sont mieux alignées, les mesures prises peuvent toujours être incroyablement risquées.
L’adoption d’agents hautement flexibles nécessite des modèles de gouvernance qui correspondent à leur autonomie, leur jugement et leur échelle.
Bien que les ensembles d’instructions et les préférences d’IA puissent faire partie d’une stratégie complète de défense en profondeur, c’est une pilule difficile à avaler pour la plupart des puristes de la sécurité. Nous sommes habitués à tirer parti de contrôles techniques formels, mesurables et précis, mais apprendre aux agents de l’IA à respecter les règles comprend des éléments tels que : « Si vous soupçonnez un comportement malveillant, signalez-le », dans un fichier de préférences ou un ensemble d’instructions. Cela peut aider à prévenir certaines pannes, mais il ne s’agit que d’une directive, et non d’une règle. L’adoption de ces agents hautement flexibles nécessite des modèles de gouvernance qui correspondent à leur autonomie, leur jugement et leur échelle. Alors que les organisations se précipitent de l’expérimentation à la production, les responsables informatiques et de la sécurité doivent réévaluer non seulement ce que les agents font, mais également comment les systèmes d’agents sont surveillés, contraints et tenus responsables.
Les risques de l’IA agentique
Depuis trois ans et demi, les organisations expérimentent l’IA générative et continuent de maîtriser les risques qui peuvent accompagner ses avantages. Ensemble, nous en apprenons beaucoup sur la gestion de la mémoire et du contexte, les protections et les crochets, et sur la manière de tester le comportement hallucinatoire. Ces défis sont principalement limités aux mauvaises informations dans une conversation avec l’IA, mais les workflows agents peuvent rapidement amplifier les dommages. GenAI est fréquemment associé aux interactions de type chatbot et aux cycles d’invite-réponse. L’IA agentique va encore plus loin : elle prend des mesures indépendantes, et cela représente un plus grand danger. Les agents d’IA peuvent s’exécuter à grande échelle, en avançant plus rapidement et plus largement que la supervision humaine ne peut suivre. Ils peuvent également aggraver les mauvaises décisions dans un workflow sans la force corrective du jugement réfléchi.
Ce qui fonctionnait auparavant devient rapidement une réalité. La carte système Mythos Preview a documenté la puissance d’une version précoce du modèle Mythos pour expliquer de manière créative son chemin vers une exploitation réussie des logiciels d’entreprise. L’industrie a vu des éclairs sur ce qu’un écosystème antagoniste agentique pourrait apporter et comment l’outillage agentique peut prendre des chemins inattendus pour atteindre ses objectifs. Des interventions de formation appliquées anthropiques pour améliorer considérablement ces comportements dans la version finale de Mythos Preview, et ces résultats éclaireront le travail de sécurité dans les modèles futurs. La nature de l’IA est que même un alignement de premier ordre ne garantit pas un suivi parfait des règles, et des modèles plus puissants peuvent avoir plus d’impact avec des actions inattendues qu’ils prennent.
Le prix de la multiplication des agents s’étend au-delà des risques considérables de sécurité et de conformité. Les agents individuels peuvent prendre des décisions contradictoires pour différentes équipes de travail ou différents services commerciaux, ce qui entraîne une incertitude ou des cycles de conflit. Les charges de travail redondantes ou les comportements d’emballement peuvent entraîner une augmentation des coûts d’infrastructure ou une baisse de la disponibilité. Ou imaginez un agent chargé d’accélérer la conformité aux correctifs qui le fait en forçant des redémarrages immédiats sur l’ensemble du réseau, en corrompant les processus en vol et en créant des perturbations de service généralisées.
Un agent trop impatient a décidé que la manière la plus efficace de nettoyer un répertoire de fichiers était de supprimer tout élément datant de plus de six mois.
Imaginez une autre personne chargée de ranger les boîtes de réception des e-mails, mais qui archive ensuite les e-mails nécessitant toujours une action critique ou qui nécessitent une gestion spéciale à des fins de conformité. J’écris à partir de mon expérience personnelle : un agent trop impatient a décidé que la manière la plus efficace de nettoyer un répertoire de fichiers était de supprimer tout ce qui date de plus de six mois. Lorsque mes crochets préexistants l’ont empêché d’exécuter une commande à supprimer, il a trouvé une commande que je ne lui avais pas explicitement dit d’éviter et l’ai utilisée à la place. C’était une leçon précieuse pour moi et l’IA ce jour-là (et ne vous inquiétez pas, j’avais des sauvegardes).
Sans une gouvernance appropriée et une approche humaine (au bon endroit dans la boucle), les actions qui semblent avoir une portée modeste et une intention bénigne peuvent causer des dommages à l’ensemble de l’entreprise. Six risques importants liés à la mise en production de l’IA agentique sans barrières solides sont :
- Étendue : les agents peuvent se multiplier rapidement, fragmentant le travail et créant un chevauchement entre les équipes.
- fluage de la configuration : à mesure que les invites, les préférences et les configurations dérivent, l’activité et l’impact des agents peuvent changer, ce qui leur permet d’aller au-delà de leur intention initiale.
- Infrastructure opérationnelle fragile : les agents non régis peuvent rendre les systèmes fragiles, de sorte que de petits changements déclenchent des défaillances imprévisibles.
- Coûts d’emballement : l’IA agentique peut utiliser beaucoup plus de calcul que les chatbots GenAI, et une série d’agents sous-gérés exécutant 07/12 peut être particulièrement coûteuse.
- Réponse ralentie aux incidents : sans surveillance, il devient difficile de savoir quel agent a agi, pourquoi il a agi ou jusqu’où son impact s’est propagé.
- Méfiance envers les systèmes autonomes : un comportement imprévisible des agents érode la confiance dans l’automatisation et ralentit l’adoption.
La gouvernance aide à maintenir l’IA agentique sur la bonne voie en définissant des limites claires, en validant le comportement par rapport à une intention définie et en rendant les actions des agents visibles et responsables. Grâce au sandboxing, aux environnements de test, à la supervision de l’humain dans la boucle et à une prise de décision transparente, les organisations peuvent empêcher une croissance incontrôlée, détecter les comportements à risque tôt et établir la confiance dans les systèmes autonomes avant que les problèmes n’atteignent la production.
Éléments de gouvernance agentique
L’objectif de la gouvernance des agents est d’assurer des actions et des résultats sûrs qui sont alignés sur les pratiques de sécurité, les obligations réglementaires, les pratiques de confidentialité et les objectifs commerciaux. Atteindre ces objectifs nécessite une étroite collaboration entre les équipes informatiques et de sécurité. Je dirais, en fait, que ces équipes ne peuvent plus se permettre de se considérer comme des équipes distinctes. Leurs workflows et leur rythme de travail seront si étroitement liés qu’ils devront travailler en étroite collaboration les uns avec les autres et avec leur technologie agentique. La gouvernance et la stratégie collaborative doivent être établies tôt et évoluer parallèlement aux capacités d’IA.
Des politiques de gouvernance axées sur l’humain doivent être en place pour éviter ou contenir une explosion inutile d’agents.
Nous pouvons diviser les préoccupations concernant la prolifération des agents en deux catégories : humaines et techniques. Les humains conçoivent involontairement une prolifération d’agents lorsque des individus et des équipes lancent de nouveaux agents à leur gré pour gérer des tâches ciblées, peut-être sans tenir compte des meilleures pratiques globales sur la manière et le moment de créer, d’exploiter et de retirer un agent. Ces politiques de gouvernance axées sur l’humain doivent être en place pour éviter ou contenir une explosion inutile d’agents. Certaines des considérations techniques de la section suivante abordent également ce risque.
En ce qui concerne les aspects techniques de la gouvernance des agents d’IA d’entreprise, nous commençons par les bases :
- Tester les agents de manière approfondie avant le déploiement. Cela ne peut pas être surestimé.
- Définissez la propriété et la responsabilité de chaque agent d’IA.
- Limitez les permissions d’agent à l’aide des contrôles d’accès les moins privilégiés.
- Enregistrez et surveillez l’activité agent pour permettre l’audit et le dépannage.
- Établir des politiques d’utilisation acceptable et de conformité réglementaire.
- Tenez les humains au courant des actions à haut risque ou irréversibles. L’IA en est encore à ses débuts, et certaines tâches sont mieux adaptées à une adoption précoce que d’autres.
Il s’agit d’enjeux de table ; les équipes chargées de la cybersécurité et des opérations informatiques doivent aller plus loin :
- Traiter les agents d’IA comme une nouvelle classe d’acteurs. Les agents ne sont pas des services logiciels déterministes typiques, et ils ne sont pas non plus responsables ou censés avoir un jugement éthique et contextuel comme le feraient les employés humains. Les entreprises doivent définir une classification distincte pour les agents qui prend en compte leur autonomie et leur comportement probabiliste et définit des politiques, des processus d’examen et des chemins d’escalade appropriés. L’agent est une identité , une application et un comportement pour surveiller tout-en-un.
- Dirigez l’intention d’un agent, pas seulement son accès. Le contrôle des API est une étape clé dans la gouvernance des agents d’IA, mais ce n’est pas suffisant. L’entreprise doit définir ce qu’un agent essaie d’atteindre et quelles sont les limites de ses actions. Cela inclut sa capacité à créer des sous-agents ou à travailler avec d’autres systèmes agents qui peuvent avoir des permissions plus élevées, des objectifs contradictoires ou des limites différentes.
- Observez le comportement, pas seulement les résultats. Il est important d’évaluer non seulement les résultats d’un agent, mais également ses décisions dans le contexte. Si vous ne savez pas pourquoi et comment un agent est passé de l’invite aux options de décision à l’action finale, vous ne savez pas vraiment s’il fonctionne correctement. Ce niveau de traçabilité est également essentiel pour les enquêtes sur les incidents de conformité et de sécurité. Cet élément est l’un des plus difficiles à corriger et n’a pas de réponse unique aujourd’hui.
- Limitez leur indépendance. Au-delà des contrôles d’accès des moindres privilèges, maintenez les agents à un niveau de certitude pour prendre des mesures. Exiger des agents qu’ils mettent un humain dans la boucle lorsque la confiance dans une action proposée tombe en dessous d’un seuil acceptable. La confiance excessive est une caractéristique des résultats LLM, et il peut y avoir des risques considérables lorsqu’un agent d’IA atténue essentiellement l’incertitude plutôt que de faire remonter l’information pour obtenir de l’aide.
- Attendez-vous à une erreur et à une conception de confinement. Les agents finiront par agir de manière inattendue. Les organisations doivent limiter la portée des systèmes qu’un agent peut affecter et limiter la fréquence à laquelle il peut prendre des mesures pour permettre aux organisations de désactiver un agent en temps opportun, avec des dommages limités.
- Évaluez régulièrement les permissions et les objectifs. Les agents sont des systèmes adaptatifs fonctionnant dans des environnements en constante évolution. À mesure que les invites, les modèles et les besoins organisationnels changent, les permissions et les objectifs obsolètes peuvent créer de l’incertitude ou des risques.
Ces principes doivent aider à maintenir un agent donné en phase. Mais pour gérer le risque supplémentaire de prolifération des agents, il existe des considérations supplémentaires qui traitent les agents comme un système.
Quatre facteurs pour le contrôle de la foule agentique
De manière isolée, un agent mal régi présente des risques pour l’organisation. Lorsque le nombre d’agents dans l’entreprise augmente de manière exponentielle, le risque possible augmente également. Alors que l’entreprise met plus d’agents en production (et que ces agents ont peut-être créé des sous-agents pour accomplir leurs tâches), la gouvernance doit prendre une nouvelle dimension. Vous ne vous contentez pas de gérer des outils individuels, mais un écosystème complexe et en évolution rapide d’acteurs de machines probabilistes. Les considérations clés à ce niveau comprennent :
- Inventaire centralisé et registre des agents. Comme pour les endpoints, vous ne pouvez pas gérer les agents que vous ne pouvez pas voir, donc l’établissement d’un inventaire centralisé est la première tâche. Une fois cela accompli, envisagez non seulement des agents individuels, mais également l’ensemble du portefeuille. Dans l’ensemble, le système d’agents reflète-t-il la mission et les objectifs de l’entreprise ? Les agents présentent-ils collectivement des risques qui peuvent ne pas être apparents au niveau individuel ?
- Observabilité continue et gouvernance complète. Pour régir un système d’agents, vous avez besoin de visibilité sur l’ensemble du système. Une vue consolidée révèle comment les agents interagissent, où l’autorité se chevauche et comment les risques s’accumulent dans le système agentique. La surveillance et la gouvernance centralisées permettent aux organisations d’appliquer des politiques de manière cohérente dans l’ensemble du système agentique, de détecter les dérives dans le temps et d’intervenir rapidement lorsque le comportement des agents s’écarte de l’intention de l’entreprise.
- Gestion du cycle de vie. Les agents oubliés au fil du temps, ou remplacés par de meilleurs outils, mais jamais mis hors service, peuvent continuer à agir, utiliser des ressources ou devenir une surface d’attaque non reconnue. Les entreprises ont besoin de plans clairs pour identifier et retirer les agents redondants ou qui ne servent plus l’entreprise.
- Suivi de l’utilisation des ressources et gestion des coûts. L’effet cumulé des agents sur les ressources de l’entreprise doit être pris en compte. Tout agent donné peut se trouver dans les paramètres et fournir des gains d’efficacité, mais il est important de comprendre l’utilisation globale des ressources et d’avoir un aperçu de l’endroit où il dépasse les paramètres.
Bien que les défis d’un écosystème agentique tentaculaire se manifestent au fil du temps, bien après que les agents initiaux sont entrés en production, une réflexion au niveau du système sur la gouvernance agentique devrait être présente au début. Avant que le premier agent ne passe en production, les organisations doivent réfléchir à la manière de gérer et de sécuriser un écosystème plus large d’agents en interaction.
La gouvernance rend l’entreprise agentique évolutive
Aujourd’hui, nous essayons de forcer l’ajustement des systèmes probabilistes dans les contrôles techniques binaires des anciens. Il y a un équilibre à atteindre à l’intersection de l’adoption de technologies innovantes, de la modification de la conversation sur les contrôles techniques qui s’adaptent (et ne s’adaptent pas) et de la traduction de la gouvernance à l’ère moderne. Les organisations qui appliquent une nouvelle approche à ce que signifie une bonne gouvernance permettront la transformation numérique et protégeront la résilience dans le processus. Ces organisations vont s’éloigner du lot en termes de productivité et d’innovation. Bien faire ne consiste pas à limiter l’IA ; il s’agit de s’assurer que les systèmes autonomes agissent systématiquement au service des résultats commerciaux prévus.
Bien que les fondements de la gouvernance soient familiers aux équipes de sécurité et d’exploitation, l’IA agentique modifie fondamentalement l’échelle, le rythme et la forme du défi. La gouvernance doit désormais tenir compte de l’ évolution des systèmes d’agents qui agissent et interagissent au-delà de la supervision humaine directe, et parfois de ceux qui opèrent sur la « défense par ondes », ce qui peut être une nouvelle frontière inconfortable pour ceux qui sont des professionnels chevronnés sur le terrain. En ce sens, les organisations doivent revenir aux premiers principes, non pas pour recréer d’anciens contrôles, mais pour repenser la gouvernance dès le départ à une ère de prise de décision autonome. Bien fait, cette gouvernance empêchera la prolifération des agents de devenir un chaos destructeur et garantira que la vitesse et l’échelle restent des actifs plutôt que des passifs.
