Les entreprises adoptent de plus en plus rapidement l'IA agentique , souvent à un rythme que leurs modèles de gouvernance ne parviennent pas à suivre. La recherche d'efficacité et d'innovation pourrait conduire à la mise en production d'agents expérimentaux , ce qui créerait des risques nouveaux et sous-estimés pour les équipes chargées des opérations informatiques et de la cybersécurité.
Le défi ne consiste pas seulement à gérer des agents individuels, mais à piloter un écosystème tentaculaire d'agents qui interagissent, délèguent et mettent en œuvre des décisions à la vitesse d'une machine à l'échelle de l'entreprise. Lorsque les agents lancent une série de flux de travail automatisés, de légers décalages ou des erreurs de configuration peuvent s'accumuler rapidement, d'autant plus que les agents planifient de nouvelles approches, créent et délèguent des tâches à des agents subordonnés, accèdent à des données sensibles ou reconfigurent des systèmes à un rythme que les humains ne peuvent ni suivre, ni a fortiori gérer.
En novembre dernier, McKinsey a indiqué que 23 % des organisations déploient déjà un système d'IA agentique au sein de leur entreprise, et que 39 % supplémentaires mènent des expériences avec des agents. En termes d'années d'adoption de l'IA, « novembre 2025 » semble remonter à une génération, et le taux d'adoption à la mi-2026 est très certainement plus élevé. La sortie du modèle Opus 4,6 d’Anthropic dans « février 2026 » semble avoir mis le feu aux poudres dans l’ensemble du secteur. Elle coïncide avec les rapports publiés par Anthropic sur mars 2026 et , qui montrent que l’utilisation d’une catégorie spécifique de workflows API axés sur l’automatisation a doublé depuis novembre 2025. Cela indique une tendance à l’augmentation des tâches automatisées et « agentiques » via Claude Code et l’API Claude (et une augmentation moindre des interactions de type chatbot avec Claude.ai). Cette évolution ne fera qu'aggraver les lacunes en matière de gouvernance, qui deviendront plus difficiles à détecter et plus coûteuses à corriger.
En mars, le code source de Claude Code (l’interface en ligne de commande permettant d’interagir avec Claude) a été publié par inadvertance par Anthropic. Bien que cela n’ait pas révélé les secrets les plus précieux des méthodes d’entraînement ni les poids des modèles d’Anthropic, cela a tout de même permis aux chercheurs de mieux comprendre l’un des niveaux de protection mis en place par Anthropic. La ligne directrice consiste, du moins du côté client, en une « défense par intuition » (une expression que ma propre instance de Claude a mentionnée lorsque « nous » avons analysé ensemble la fuite de la carte source). Dans la fiche technique « » 7 avril « Mythos Preview », Anthropic déclare : « Claude Mythos Preview est, sur pratiquement tous les critères mesurables, le modèle le mieux aligné que nous ayons publié à ce jour, et ce avec une marge significative. » « Malgré tout, nous estimons qu’il présente probablement le plus grand risque lié à l’alignement parmi tous les modèles que nous avons publiés à ce jour. » C'est un outil puissant, mais il nécessite des garde-fous. Ils expliquent ensuite que ces capacités, qui confèrent au modèle toute sa puissance, sont également, selon eux, susceptibles d'accroître les risques. Tout comme en alpinisme, il est nécessaire de faire appel à un guide plus expérimenté pour vous accompagner lors d'ascensions plus périlleuses, mais cela ne rend pas l'activité moins dangereuse pour autant. Même lorsqu'elles sont mieux coordonnées, les mesures prises peuvent tout de même s'avérer extrêmement risquées.
La mise en œuvre d'agents extrêmement flexibles nécessite des modèles de gouvernance adaptés à leur autonomie, à leur capacité de jugement et à leur envergure.
Même si les jeux d'instructions et les préférences en matière d'IA peuvent s'inscrire dans une stratégie globale de défense en profondeur, cela reste difficile à accepter pour la plupart des puristes de la sécurité. Nous avons l'habitude de recourir à des contrôles techniques formels, mesurables et précis, mais pour apprendre aux agents d'IA à respecter les règles, il faut notamment leur indiquer, dans un fichier de préférences ou un ensemble d'instructions, des consignes telles que : « Si vous soupçonnez un comportement malveillant, signalez-le. » Cela peut contribuer à éviter certaines pannes, mais il ne s'agit que d'une recommandation, et non d'une règle. La mise en œuvre de ces agents extrêmement flexibles nécessite des modèles de gouvernance adaptés à leur autonomie, à leur capacité de jugement et à leur envergure. Alors que les organisations passent rapidement de la phase d'expérimentation à celle de mise en production, les responsables informatiques et de la sécurité doivent réévaluer non seulement le rôle des agents, mais aussi la manière dont les systèmes composés d'agents sont surveillés, encadrés et tenus de rendre des comptes.
Les risques liés à l'IA agentique
Depuis trois ans et demi, les entreprises expérimentent l'IA générative et continuent de s'efforcer de maîtriser les risques qui peuvent accompagner ses avantages. Ensemble, nous en apprenons beaucoup sur la gestion de la mémoire et du contexte, sur les mécanismes de sécurité et les « hooks », ainsi que sur la manière de tester en conditions réelles les comportements « hallucinatoires ». Ces difficultés se limitent le plus souvent à des informations erronées dans une conversation avec une IA, mais les flux de travail autonomes peuvent rapidement aggraver les dégâts. L'IA générative est souvent associée à des interactions de type chatbot et à des cycles de questions-réponses. L'IA agentique va encore plus loin : elle agit de manière autonome, et c'est là que réside un danger encore plus grand. Les agents d'IA peuvent agir à grande échelle, avec une rapidité et une ampleur que la supervision humaine n'est pas en mesure de suivre. Elles peuvent également aggraver les mauvaises décisions tout au long d'un processus de travail, en l'absence d'un jugement réflexif permettant d'y remédier.
Ce qui n'était jusqu'à présent qu'une hypothèse de travail est en train de devenir rapidement une réalité. La fiche de présentation du système Mythos démontrait la capacité d'une première version du modèle Mythos à faire preuve de créativité pour parvenir à une exploitation réussie des logiciels d'entreprise. Le secteur a eu un aperçu de ce que pourrait apporter un écosystème antagoniste basé sur des agents, et de la manière dont les outils basés sur des agents peuvent emprunter des voies inattendues pour atteindre leurs objectifs. Anthropic a mis en œuvre des mesures de formation visant à améliorer considérablement ces comportements dans la version finale de Mythos Preview, et ces conclusions serviront de base aux travaux sur la sécurité des futurs modèles. La nature même de l'IA est telle que même un alignement optimal ne garantit pas un respect parfait des règles, et que les modèles les plus puissants peuvent avoir un impact plus important en raison des actions inattendues qu'ils entreprennent.
Le coût de la prolifération incontrôlée des agents va bien au-delà des risques considérables en matière de sécurité et de conformité. Il peut arriver que certains agents prennent des décisions contradictoires selon les équipes de travail ou les services concernés, ce qui peut être source d'incertitude ou entraîner des cycles de conflit. Les charges de travail redondantes ou les comportements incontrôlés peuvent entraîner une flambée des coûts d'infrastructure ou une chute brutale de la disponibilité. Ou imaginez un agent chargé d'accélérer la mise en conformité des correctifs qui, pour ce faire, impose des redémarrages immédiats sur l'ensemble du réseau, ce qui perturbe les processus en cours et provoque une interruption généralisée des services.
Un agent un peu trop zélé a estimé que le moyen le plus efficace de faire le ménage dans un répertoire de fichiers consistait à supprimer tout ce qui datait de plus de six mois.
Imaginez une autre personne chargée de mettre de l'ordre dans les boîtes de réception, mais qui archive ensuite les e-mails nécessitant encore une action cruciale ou exigeant un traitement particulier pour des raisons de conformité. Je m'exprime ici d'après mon expérience personnelle : un agent trop zélé a décidé que le moyen le plus efficace de nettoyer un répertoire de fichiers consistait à supprimer tout ce qui datait de plus de six mois. Lorsque mes hooks préexistants l'ont empêché d'exécuter une commande de suppression, il a trouvé une commande que je ne lui avais pas explicitement demandé d'éviter et l'a utilisée à la place. Cela a été une leçon très utile pour moi ce jour-là : et (et ne vous inquiétez pas, j'avais des sauvegardes).
En l'absence d'une gouvernance adéquate et d'une intervention humaine (au bon endroit dans la boucle), des actions qui semblent d'une portée modeste et d'une intention bienveillante peuvent causer des préjudices à l'échelle de l'entreprise. Voici six risques majeurs liés à la mise en production d'une IA agentique sans mesures de protection solides :
- de l'étalement : les agents peuvent se multiplier rapidement, ce qui fragmente le travail et entraîne des chevauchements entre les équipes.
- de la dérive de configuration : à mesure que les invites, les préférences et les configurations évoluent, l'activité et l'impact des agents peuvent changer, ce qui peut les amener à s'écarter de leur objectif initial.
- d'une infrastructure opérationnelle fragile : les agents non contrôlés peuvent fragiliser les systèmes, au point que de légers changements déclenchent des défaillances imprévisibles.
- Runaway costs: Agentic AI can use a lot more compute than GenAI chatbots, and a swarm of undermanaged agents running 07/12 can be shockingly expensive.
- d'intervention en cas d'incident : en l'absence de surveillance, il devient difficile de déterminer quel agent est intervenu, pourquoi il est intervenu ou quelle est l'étendue de son impact.
- Méfiance à l'égard des systèmes autonomes : le comportement imprévisible des agents sape la confiance dans l'automatisation et freine son adoption.
La gouvernance permet de maintenir l'IA agentique dans le droit chemin en fixant des limites claires, en vérifiant la conformité des comportements par rapport à l'intention définie et en rendant les actions des agents transparentes et responsables. Grâce au sandboxing, aux environnements de test, à la supervision par des intervenants humains et à une prise de décision transparente, les organisations peuvent prévenir toute croissance incontrôlée, détecter rapidement les comportements à risque et instaurer la confiance dans les systèmes autonomes avant que les problèmes n'atteignent l'environnement de production.
Éléments d'une gouvernance agentique
L'objectif de la gouvernance des agents est de garantir des actions et des résultats sûrs, conformes aux pratiques de sécurité, aux obligations réglementaires, aux pratiques en matière de protection de la vie privée et aux objectifs de l'entreprise. La réalisation de ces objectifs exige une collaboration étroite entre les équipes informatiques et celles chargées de la sécurité. Je dirais même que ces équipes ne peuvent plus du tout se permettre de se considérer comme des entités distinctes. Leurs processus de travail et leur rythme de travail seront si étroitement liés qu'ils devront travailler en parfaite synchronisation les uns avec les autres et avec leur technologie autonome. Il convient de mettre en place dès le début une gouvernance et une stratégie collaborative, qui devront évoluer au rythme des capacités de l'IA.
Des politiques de gouvernance axées sur l'humain doivent être mises en place afin d'éviter ou de limiter une prolifération inutile d'agents.
On peut classer les préoccupations liées à la prolifération des agents en deux catégories : les préoccupations d'ordre humain et celles d'ordre technique. Les humains finiront par provoquer involontairement une prolifération incontrôlée d'agents lorsque les individus et les équipes mettront en place de nouveaux agents à leur guise pour traiter des tâches spécifiques, peut-être sans tenir compte des bonnes pratiques générales concernant la manière et le moment de créer, d'exploiter et de mettre hors service un agent. Ces politiques de gouvernance, élaborées par l'homme, doivent être mises en place afin d'éviter ou de limiter une prolifération inutile d'agents. Certaines des considérations techniques abordées dans la section suivante évoquent également ce risque.
Pour aborder les aspects techniques de la gestion des agents d'IA d'entreprise, commençons par les bases :
- Testez minutieusement les agents avant leur déploiement. On ne saurait trop insister sur ce point.
- Définissez les responsabilités et les obligations de chaque agent d'IA.
- Limitez les autorisations des agents à l'aide de contrôles d'accès fondés sur le principe du « moindre privilège ».
- Enregistrer et surveiller l'activité des agents afin de faciliter l'audit et le dépannage.
- Mettre en place des politiques relatives à l'utilisation acceptable et au respect de la réglementation.
- Veillez à ce que les humains soient toujours impliqués dans les actions à haut risque ou irréversibles. L'IA n'en est encore qu'à ses débuts, et certaines tâches se prêtent mieux que d'autres à une adoption précoce.
Ce sont là les conditions minimales ; les équipes chargées de la cybersécurité et des opérations informatiques devraient aller un peu plus loin :
- Considérez les agents IA comme une nouvelle catégorie d'acteurs. Les agents ne sont pas des services logiciels déterministes classiques ; ils ne sont pas non plus tenus de rendre des comptes ni censés faire preuve d'un jugement éthique et contextuel, comme le feraient des employés humains. Les entreprises devraient définir une classification distincte pour les agents, qui tienne compte de leur autonomie et de leur comportement probabiliste, et qui établisse des politiques, des processus de révision et des procédures d'escalade adaptés. L'agent est à la fois une identité et , une application et , ainsi qu'un comportement à surveiller, le tout en un seul et même outil.
- Contrôlez les intentions d'un agent, et pas seulement ses droits d'accès. Le contrôle des API constitue une étape essentielle dans la gouvernance des agents d'IA, mais cela ne suffit pas. L'entreprise doit définir l'objectif que poursuit un agent et les limites de ses actions. Cela inclut notamment sa capacité à créer des sous-agents ou à interagir avec d'autres systèmes agentiels pouvant disposer de droits plus étendus, d'objectifs contradictoires ou de contraintes différentes.
- Observez le comportement, et pas seulement les résultats. Il est important d'évaluer non seulement les résultats d'un agent, mais aussi ses décisions en tenant compte du contexte. Si vous ne savez pas pourquoi ni comment un agent est passé d'une invite à des options de décision, puis à une action finale, vous ne savez pas vraiment s'il fonctionne correctement. Ce niveau de traçabilité est également essentiel pour la conformité et les enquêtes sur les incidents de sécurité. Cet aspect est l'un des plus difficiles à maîtriser, et il n'existe pas aujourd'hui de solution universelle.
- Limitez leur autonomie. Au-delà des contrôles d'accès fondés sur le principe du « privilège minimal », exigez de vos agents qu'ils agissent en toute certitude. Exigez des agents qu'ils fassent intervenir un être humain lorsque le niveau de confiance dans une action proposée passe en dessous d'un seuil acceptable. L'excès de confiance est une caractéristique typique des résultats générés par les modèles LLM, et cela peut comporter des risques considérables lorsqu'un agent d'IA, face à l'incertitude, préfère « bluffer » plutôt que de demander de l'aide.
- Anticipez les erreurs et concevez vos systèmes de manière à les maîtriser. Les agents finiront par agir de manière inattendue. Les organisations devraient limiter la portée des systèmes sur lesquels un agent peut agir et plafonner la fréquence à laquelle il peut intervenir, afin de leur permettre de désactiver un agent en temps utile, en minimisant les dommages.
- Évaluez régulièrement les autorisations et les objectifs. Les agents sont des systèmes adaptatifs évoluant dans des environnements en constante évolution. À mesure que les consignes, les modèles et les besoins organisationnels évoluent, des autorisations et des objectifs obsolètes peuvent être source d'incertitude ou de risque.
Ces principes devraient permettre de veiller à ce que chaque agent respecte les règles. Toutefois, pour gérer le risque supplémentaire lié à la prolifération des agents, il convient de prendre en compte d'autres aspects qui considèrent les agents comme un système.
Quatre facteurs pour un contrôle des foules axé sur l'agentivité
Pris isolément, un agent mal encadré présente des risques pour l'organisation. Lorsque le nombre d'agents au sein de l'entreprise augmente de manière exponentielle, le risque potentiel augmente lui aussi. À mesure que l'entreprise met en service davantage d'agents (et que ces derniers créent éventuellement des sous-agents pour mener à bien leurs tâches), la gouvernance doit prendre une nouvelle dimension. Vous ne gérez pas seulement des outils individuels, mais un écosystème complexe et en constante évolution, composé d'acteurs artificiels probabilistes. Les éléments clés à prendre en compte à ce niveau sont notamment les suivants :
- Gestion centralisée des stocks et du registre des agents. Tout comme pour les terminaux, vous ne pouvez pas gérer les agents que vous ne voyez pas ; la première tâche consiste donc à établir un inventaire centralisé. Une fois cela fait, ne vous limitez pas à considérer les agents pris individuellement, mais examinez l'ensemble du portefeuille. Dans l'ensemble, le système d'agents reflète-t-il la mission et les objectifs de l'entreprise ? Ces agents présentent-ils, pris dans leur ensemble, des risques qui ne sont peut-être pas évidents au niveau individuel ?
- Une observabilité continue et une gouvernance globale. Pour gérer un système composé d'agents, vous devez avoir une vue d'ensemble de l'ensemble du système. Une vue d'ensemble permet de mettre en évidence la manière dont les agents interagissent, les chevauchements d'autorité et la manière dont le risque s'accumule au sein du système d'agents. La surveillance et la gouvernance centralisées permettent aux organisations d'appliquer leurs politiques de manière cohérente à l'ensemble du système d'agents, de détecter les dérives au fil du temps et d'intervenir rapidement lorsque le comportement des agents s'écarte des objectifs de l'entreprise.
- Gestion du cycle de vie. Les agents tombés dans l'oubli au fil du temps, ou remplacés par de meilleurs outils sans pour autant avoir été désactivés, peuvent continuer à fonctionner, à consommer des ressources ou à constituer une surface d'attaque non identifiée. Les entreprises ont besoin de plans clairs pour identifier et mettre hors service les agents qui sont redondants ou qui ne répondent plus aux besoins de l'entreprise.
- Suivi de l'utilisation des ressources et gestion des coûts. Il convient de prendre en compte l'effet cumulé des agents sur les ressources de l'entreprise. Un agent donné peut respecter les paramètres fixés et générer des gains d'efficacité, mais il est important de comprendre l'utilisation globale des ressources et d'identifier les cas où ces paramètres sont dépassés.
Bien que les défis liés à un écosystème d'agents en pleine expansion ne se manifestent qu'au fil du temps, bien après la mise en production des premiers agents, une réflexion à l'échelle du système sur la gouvernance des agents devrait être menée dès le départ. Avant que le premier agent ne soit mis en production, les organisations doivent réfléchir à la manière de gérer et de sécuriser un écosystème plus vaste d'agents interagissant entre eux.
La gouvernance permet à l'entreprise « agentique » d'évoluer à grande échelle
Aujourd'hui, nous tentons d'adapter de force des systèmes probabilistes aux anciens contrôles techniques binaires. Il convient de trouver un juste équilibre entre l'adoption de technologies innovantes, la redéfinition du débat sur ce à quoi les contrôles techniques s'adaptent (et ne s'adaptent pas), et l'adaptation de la gouvernance à l'ère moderne. Les organisations qui adoptent une nouvelle approche de la bonne gouvernance permettront la transformation numérique tout en préservant la résilience. Ces organisations se démarqueront du lot en matière de productivité et d'innovation. Bien faire les choses ne consiste pas à limiter l'IA, mais à veiller à ce que les systèmes autonomes agissent systématiquement au service des résultats commerciaux escomptés.
Si les principes fondamentaux de la gouvernance sont bien connus des équipes chargées de la sécurité et des opérations, l'IA agentique modifie en profondeur l'ampleur, le rythme et la nature du défi. La gouvernance doit désormais tenir compte de l’ , de systèmes d’agents en constante évolution qui agissent et interagissent hors de tout contrôle humain direct, et parfois de ceux qui fonctionnent selon le principe de la « défense par intuition », ce qui peut constituer une nouvelle frontière déconcertante pour les professionnels chevronnés du secteur. En ce sens, les organisations doivent revenir aux principes fondamentaux — non pas pour recréer d’anciens mécanismes de contrôle, mais pour repenser la gouvernance de fond en comble à l’ère de la prise de décision autonome. Si elle est bien mise en œuvre, cette gouvernance empêchera la prolifération des agents de dégénérer en un chaos destructeur et garantira que la rapidité et l'ampleur restent des atouts plutôt que des freins.
