Au cœur du centre des opérations de sécurité d’une entreprise classée au Fortune 500 , une IA agentique d’ baptisée Sentinel, qui s’appuie sur des algorithmes avancés, identifie un terminal compromis lorsqu’un employé clique sur un lien figurant dans un e-mail de hameçonnage de type « ». Sentinel détecte également instantanément les connexions suspectes en provenance d'Europe de l'Est ainsi que les signes indiquant qu'une exfiltration de données est en cours. Sentinel envoie Hunter sur place pour localiser et isoler l'intrusion.
Par ailleurs, l'agent Defender identifie le logiciel malveillant comme une variante du ransomware « » du groupe cybercriminel LockBit, et il corrige les failles exploitées par les attaquants pour s'introduire dans le système. En quelques minutes, les analystes humains reçoivent un rapport post-incident à examiner, et une faille qui aurait pu entraîner des pertes se chiffrant en millions en raison d'un temps d'arrêt et d'une perte de données est maîtrisée par un trio de systèmes d'IA, s'appuyant sur de puissants moteurs d'analyse et sur une décennie de données relatives aux incidents de sécurité et aux attaques.
Pour être tout à fait clair : ces agents d'IA (Sentinel, Hunter, Defender) sont fictifs, et l'incident est hypothétique. Mais la promesse de ce nouvel univers de la cybersécurité « agentique » est bien réelle et va bientôt – très bientôt, selon les experts du secteur – faire son apparition dans un centre d’opérations de sécurité (SOC) près de chez vous. Et leur arrivée s'annonce en force : d'ici l'année prochaine, environ 86 % des organisations prévoient d' r l'utilisation d'agents IA, selon la récente enquête « PagerDuty Agentic AI Survey » menée par l' .
Contrairement aux outils basés sur des règles qui existaient déjà sous la forme d’automatisation des processus robotisés ( ) ou d’outils d’orchestration, d’automatisation et de réponse en matière de sécurité (SOAR) , les agents d’IA tels que Sentinel, Hunter et Defender promettent d’apprendre de leur environnement, d’anticiper, de prendre des décisions et de mettre en œuvre des réponses dans le cadre de tâches spécifiques, telles que l’isolation des appareils compromis , la correction des vulnérabilités, la mise hors ligne des systèmes compromis, ainsi que la sollicitation d’aide auprès d’autres agents et de professionnels de la sécurité humains lorsque cela s’avère nécessaire.
Certains affirment que ces agents vont transformer les opérations de sécurité ; d'autres restent sceptiques quant à l'ampleur des changements possibles dans un avenir proche, compte tenu de l'état actuel de la technique.
Pour les responsables de la sécurité, les avantages sont indéniables : selon les rapports des éditeurs, 07/12 la surveillance des menaces réduit considérablement les délais d'intervention (jusqu'à 90 %), atténue la fatigue liée aux alertes et remédie à la pénurie de talents en automatisant les tâches répétitives et fastidieuses. L'IA agentique permet également une défense proactive , grâce à l'analyse comportementale , afin de prévenir les exploits et de faire respecter les politiques de sécurité.
« J’étais au départ sceptique quant à l’IA agentique, mais le fait de la voir utilisée dans des applications professionnelles, puis dans le cadre d’opérations de sécurité, m’a fait changer d’avis », a déclaré Wim Remes, consultant principal au sein du cabinet de conseil en sécurité Toreon, basé à Anvers, en Belgique. « L'IA agentique présente un grand intérêt pour la collecte et la mise en contexte des informations destinées aux analystes SOC, ainsi que pour l'automatisation de la réponse aux incidents. »
Des évaluations prometteuses, c'est certain. Mais avant de mettre en place ces flux de travail autonomes, de bénéficier de cycles de mise à jour plus rapides et de créer de la valeur ajoutée pour votre entreprise, vous devez comprendre les avantages et les pièges de l'IA agentique.
Vous trouverez ci-dessous un guide précieux, accompagné de conseils d'experts, sur ce que vous devez savoir pour l'année à venir, ainsi que sur les meilleures façons d'entamer le processus d'intégration de l'IA agentique dans votre modèle économique et votre architecture d'entreprise.
L'essor de l'IA agentique : votre défenseur (semi-)autonome
L'IA traditionnelle vous apporte des réponses. L'IA agentique met en œuvre des décisions sans — si vous le souhaitez — attendre votre accord.
«J’étais au départ sceptique quant à l’IA agentique, mais le fait de la voir utilisée dans des applications professionnelles, puis dans le domaine de la sécurité, m’a fait changer d’avis. »Wim Remes, consultant principal au sein du cabinet de conseil en sécurité Toreon
Il s'agit du prolongement naturel de l'automatisation robotisée des processus, de l'IA traditionnelle et d'autres processus déterministes qui nécessitent un certain niveau de jugement et de prise de décision, plutôt que de suivre des procédures strictes composées de flux de travail prédéfinis déclenchés par des scénarios prédéterminés. « L'IA agentique promet de combler à terme les lacunes que l'automatisation actuelle ne parvient pas à combler », a déclaré Scott Crawford, responsable de la recherche en sécurité de l'information chez S&P Global Market Intelligence.
Quel est le mot-clé ici ? « À terme. »
Si les analystes s'accordent à dire que l'IA agentique conférera à ces systèmes davantage d'« autonomie », les débats vont bon train quant à la rapidité avec laquelle l' , grâce à l'IA agentique, dans le domaine des opérations de sécurité (SecOps) , s'avérera être un véritable tournant.
La motivation à passer à l'IA agentique est forte. Depuis des années, les équipes de cybersécurité mènent un combat perdu d'avance face à une avalanche d'alertes système, et leurs adversaires — qui se multiplient, se robotisent et font preuve d'une créativité croissante — ont contraint les défenseurs à s'adapter en permanence. Et lutter contre la fatigue liée aux alertes. Et : comment faire face à l'épuisement professionnel. Les outils traditionnels, fondés sur des règles, avec leurs procédures fixes et leur logique fragile, n'ont tout simplement pas pu suivre le rythme. « C'est là que réside la véritable valeur », a ajouté M. Remes. « Il s'agit de réduire la charge cognitive des analystes, par exemple en rassemblant des informations sur une alerte, les actifs concernés, les incidents passés et les analyses de vulnérabilité d' — plutôt que de se contenter d'automatiser des actions telles que le verrouillage des comptes et autres mesures de ce type », a-t-il déclaré.
[Lire aussi : 4 les priorités de leadership critiques pour les RSSI à l'ère de l'IA]
Voici comment l'IA agentique pourrait contribuer à inverser cette tendance :
- De la fatigue liée aux alertes à l'action autonome —L'équipe chargée de la sécurité d'une entreprise type est confrontée chaque jour à des milliers d'alertes, dont la majorité sont des faux positifs ou présentent un faible risque. Les analystes humains, déjà débordés en raison d'un manque de personnel, sont contraints de trier les alertes, de mener des enquêtes et d'intervenir, ce qui les empêche souvent de détecter les signes subtils d'une véritable intrusion. Les capacités d'analyse et la réactivité autonome de l'IA agentique laissent entrevoir une nouvelle approche.
- Détection et réponse automatisées aux menaces —Les systèmes d'IA agentique collectent des données provenant du cloud, du réseau et des terminaux, afin d'identifier les schémas anormaux indiquant des menaces potentielles. Dès qu'une menace est détectée, ils peuvent isoler de manière autonome les appareils compromis, bloquer le trafic malveillant ou révoquer les identifiants : des actions qui prenaient autrefois des heures s'effectuent désormais en quelques secondes.
- Guides d'intervention dynamiques —Les plans d'intervention statiques en cas d'incident s'avèrent souvent inefficaces, ce qui explique pourquoi de nombreux professionnels de la sécurité espèrent qu'ils deviendront bientôt obsolètes. L'IA agentique élabore des scénarios d'intervention dynamiques et adaptés au contexte, qui ajustent les réponses à l'évolution du paysage des menaces. Il est capable de hiérarchiser les incidents, d'enquêter sur les anomalies et même de mettre en œuvre des stratégies de confinement en plusieurs étapes, éventuellement sans attendre l'accord d'un intervenant humain.
- L'apprentissage continu, une mémoire d'éléphant —Chaque interaction, chaque événement, devient une donnée d'apprentissage — et, à l'instar de la mémoire d'Internet, l'IA n'oublie jamais. L'IA agentique affine ses modèles à chaque interaction, ce qui lui permet d'améliorer les taux de détection et de réduire les faux positifs au fil du temps. Le SOC gagne en rapidité à mesure qu'il devient plus intelligent.
- Défense proactive et application du modèle « zero-trust » —L’IA agentique exploite l’analyse comportementale pour détecter les écarts par rapport à l’activité de référence, signalant ainsi les exploits « zero-day » et ainsi que les menaces internes avant qu’elles ne s’aggravent. En surveillant en permanence le comportement des utilisateurs et le niveau de criticité des ressources, cette solution applique les politiques « zero trust » d’ , garantissant ainsi que chaque accès est toujours justifié en fonction du contexte et ajusté de manière dynamique.
[À lire également : Ce qu'il faut savoir sur la nouvelle loi sud-coréenne relative à l'IA]
Les écueils et les dangers de l'IA agentique
Les passionnés d'IA agentique reconnaissent que, malgré ce potentiel, tout ne sera pas pour autant un paradis en matière de sécurité, et que la mise en place de centres d'opérations de sécurité (SOC) basés sur l'IA agentique ne se fera pas d'un simple clic.
«Cette technologie n’est pas forcément facile à mettre en œuvre. »David Marcus, expert fédéral en sécurité informatique et ingénieur principal chez Intel
« Cette technologie n'est pas forcément facile à mettre en œuvre et posera également son lot de nouveaux défis », a déclaré David Marcus, expert fédéral en sécurité informatique et ingénieur principal chez le fabricant de puces Intel.
Parmi ces défis figurent l'intégration avec les systèmes existants, en raison de leurs formats propriétaires et de leurs langages de programmation obsolètes, ainsi que l'absence de prise en charge des frameworks d'IA modernes qui nécessitent des interfaces de programmation d'applications (API) pour l'échange de données en temps réel. Sans ces capacités, l'IA agentique du SOC ne disposera pas des données nécessaires pour prendre des mesures éclairées et opportunes.
Ces défis s'ajoutent aux obstacles habituels liés aux données, tels que les problèmes de qualité et de préparation des données, notamment la normalisation des formats de données, le nettoyage des journaux obsolètes et la suppression des données inexactes ou dépourvues des métadonnées nécessaires.
De plus, tous les défis liés aux êtres humains s'appliquent également aux agents d'IA, en raison de leur accès accru aux outils et aux données, ainsi que de leur capacité à fonctionner de manière autonome. Cela les rend vulnérables à la compromission des privilèges et au vol d'identifiants. La situation est identique à celle concernant le personnel humain : les attaquants peuvent se faire passer pour des agents et effectuer des tâches non autorisées qui endommagent, perturbent et exposent des données sensibles.
À grande échelle, ces risques s’amplifient à mesure que les organisations déploient davantage d’agents au sein de leurs équipes et de leurs flux de travail, ce qui conduit souvent à une prolifération d’IA agentique — où les systèmes autonomes se multiplient plus rapidement que ne peuvent s’adapter les mécanismes de gouvernance, de visibilité et de responsabilité.
[À lire également : Comment l'IA redéfinit la prévention des pertes de données]
Il existe également un risque de dépendance excessive à l'égard de l'IA, ce qui pourrait entraîner une « cécité aux alertes » si la surveillance humaine venait à s'affaiblir à mesure que la confiance s'accroît de manière excessive et que les contrôles humains se relâchent. « Une automatisation complète sans maturité des processus comporte des risques », a ajouté M. Remes. « Il convient de commencer par des processus manuels, puis de passer à une automatisation contrôlée par l'homme, puis à une automatisation supervisée par l'homme, pour n'en arriver qu'en dernier lieu à l'automatisation complète. » « Les organisations devraient mettre en place une IA agentique à mesure que leurs processus gagnent en maturité. »
5 mesures pour une IA agentique plus sûre
Les responsables de la sécurité apprennent à trouver le juste équilibre entre autonomie et contrôle de ces agents, en tirant parti de la rapidité de l'IA agentique sans pour autant renoncer à leur capacité de jugement.
«C'est l'un des problèmes que nous constatons à chaque fois que survient l'une de ces grandes vagues technologiques. » « Nous parlons des aspects positifs, mais nous ne consacrons pas assez de temps à discuter des aspects négatifs. »Scott Crawford, responsable de la recherche en sécurité de l'information chez S&P Global Market Intelligence
« Il faut trouver un juste équilibre », a déclaré M. Crawford. « C’est l’un des problèmes que nous constatons à chaque fois que survient l’une de ces grandes vagues technologiques. » Nous parlons souvent des aspects positifs, mais nous ne consacrons pas suffisamment de temps aux aspects négatifs pour parvenir à un équilibre sain dans la discussion. « Malheureusement, cela a pour effet de susciter un enthousiasme incroyable chez les gens quant au potentiel de cette technologie, mais ils ne réfléchissent pas aux conséquences de ce dans quoi ils pourraient s’engager. »
Les entreprises peuvent prendre plusieurs mesures pour s'assurer de respecter cet équilibre :
1. Mettre en place des cadres solides de gouvernance de l'IA agentique
Commencez par établir des politiques et des directives claires décrivant comment l'IA agentique sera utilisée dans vos opérations de sécurité, notamment les règles de prise de décision et la conformité à la norme « » (). Cela permet de s'assurer que tous les membres de l'organisation comprennent les limites et les responsabilités, notamment en ce qui concerne l'enregistrement en bonne et due forme des agents déployés, et de réduire le risque d'utilisation abusive ou de problèmes juridiques. Réexaminez et mettez à jour régulièrement ces cadres afin de vous adapter aux nouvelles menaces ou réglementations, tout en favorisant une culture de la responsabilité.
«Nous comptons de nombreux collaborateurs qui créent leurs propres agents autonomes, ce qui est formidable. » Mais nous devons… veiller à ce qu’ils soient rédigés et élaborés en respectant des garde-fous appropriés. »Jeffrey DiMuro, responsable adjoint de la sécurité des systèmes d'information (RSSI), ServiceNow
C'est l'une des raisons pour lesquelles Jeffrey DiMuro, responsable adjoint de la sécurité des systèmes d'information (CISO) chez ServiceNow, qui dirigeait auparavant les divisions « gouvernance des données » (), « risques de sécurité » ( ) et « risques liés aux tiers » () au sein de l'entreprise, met en garde contre la prolifération de l'IA agentique en l'absence d'une telle gouvernance.
« Bon nombre de nos collaborateurs créent leurs propres agents autonomes, ce qui est formidable », a-t-il déclaré. « Mais nous devons… veiller à ce qu’ils soient conçus et développés en respectant des garde-fous appropriés, nous devons enregistrer ces [agents], et nous devons nous assurer de ne pas multiplier inutilement les efforts afin que tous les utilisateurs de notre environnement aient accès à des outils qui ont été validés. »
2. Définissez les limites de l'IA agentique grâce à un contrôle d'accès granulaire
Mettez en place des contrôles détaillés concernant les accès et les actions autorisées des agents d'IA, en recourant à des modèles tels que les autorisations basées sur les rôles et les principes « zero-trust » afin de limiter les risques d'exposition. Cela permet d'empêcher toute action non autorisée et de protéger les actifs critiques contre d'éventuelles menaces. Ces contrôles vous apportent une tranquillité d'esprit, en garantissant que l'IA renforce la sécurité sans introduire de nouvelles vulnérabilités.
Par exemple, un agent de sécurité peut disposer d'un accès en lecture seule pour examiner les alertes et consulter les journaux, mais ne peut pas mettre en œuvre de mesures correctives : il signale un compte suspect pour qu'il soit examiné par un humain, plutôt que de le désactiver. Un autre agent pourrait mettre automatiquement en quarantaine un terminal compromis, mais il ne peut pas accéder au système de gestion des identités de l' , , pour réinitialiser les identifiants. Un tiers peut corriger les applications vulnérables, mais ne peut pas modifier les règles du pare-feu.
3. Renforcez la collaboration entre les IA agentiques grâce à une défense en profondeur
Mettez en place plusieurs niveaux de protection autour des systèmes d'IA afin que, si l'un d'entre eux venait à faire défaut, les autres puissent prendre le relais pour assurer la protection.
Un agent SOC peut détecter et isoler un terminal compromis, mais une couche distincte de segmentation du réseau empêche ce terminal de se déplacer latéralement. Un agent de gestion automatisée des correctifs d' , , applique les mises à jour, mais un système de restauration distinct permet d'annuler les modifications si les correctifs entraînent des dysfonctionnements dans des applications critiques. Cette approche par couches atténue l'impact de toute intrusion isolée, ce qui permet d'assurer la stabilité des opérations. Elle favorise une stratégie de sécurité résiliente qui s'inscrit dans les objectifs de continuité d'activité.
4. Allier l'IA agentique à une supervision humaine
Veillez à ce que du personnel expérimenté continue de participer au suivi et à la validation des décisions clés prises par l'IA, en particulier dans les situations à enjeux élevés. Ce modèle hybride s'appuie sur le jugement humain pour compléter les atouts de l'IA, ce qui permet de réduire les erreurs et d'améliorer la fiabilité. La supervision garantit le respect des principes éthiques et permet d'intervenir rapidement lorsque cela s'avère nécessaire.
«» Cela nécessite toujours l'intervention d'un être humain. Et voilà ce qu’on appelle « faire confiance, mais vérifier ». »DiMuro
« Si vous comptez laisser un assistant — j’appellerai l’IA agentique un assistant qui a accès à davantage d’informations que je n’en ai jamais eu — établir des liens entre ces informations et m’aider à aller plus vite, cela nécessite tout de même la présence d’un être humain dans le processus. » « Et voilà ce qu’on appelle “faire confiance, mais vérifier” », a conseillé DiMuro.
5. Mettre en place des tests et une validation continus de l'IA agentique
Simulez régulièrement des attaques et des scénarios afin de tester les performances de l'IA et de détecter les faiblesses avant qu'elles n'affectent les opérations réelles. Ce processus continu garantit la robustesse du système face à l'évolution des menaces.
Bien sûr, la règle d'or de l'informatique — « si l'on entre des données erronées, on obtient des résultats erronés » — s'applique. Les organisations doivent veiller à ce que les données qu'elles fournissent aux systèmes d'IA soient exactes et sécurisées.
La triade de l'IA agentique : transparence, confiance et esprit d'équipe
Il est également essentiel de rendre les processus décisionnels basés sur l'IA plus compréhensibles en utilisant des outils qui expliquent comment les résultats sont obtenus et en consignant toutes les actions afin de faciliter leur analyse.
«Bien que l’IA agentique puisse s’avérer efficace aujourd’hui, des niveaux adéquats de transparence et d’explicabilité sont essentiels pour instaurer la confiance et garantir une bonne gouvernance. »Michael Farnum, PDG de Cybr.SEC.Community
Cela renforce la confiance au sein des équipes et parmi les parties prenantes, ce qui permet d'identifier rapidement tout problème ou toute anomalie. Les systèmes transparents facilitent également la réalisation d'audits de meilleure qualité et contribuent à démontrer aux autorités de régulation et aux partenaires que l'IA est utilisée de manière éthique.
« Même si l’IA agentique peut s’avérer efficace aujourd’hui, des niveaux adéquats de transparence et d’explicabilité sont essentiels pour instaurer la confiance et garantir une bonne gouvernance », a déclaré Michael Farnum, ancien RSSI conseil au sein du cabinet de conseil en technologie Trace3 et désormais PDG de Cybr.SEC.Community, une société spécialisée dans l’organisation d’événements consacrés à la cybersécurité, basée à Houston.
Enfin, l'équipe du SOC doit être préparée à l'IA, et le personnel de l' doit bénéficier d'une formation adéquate. Les dirigeants devraient évaluer l'infrastructure actuelle de leur organisation, l'état de préparation des données, les compétences de leurs équipes et la culture d'entreprise afin d'identifier les lacunes avant de déployer l'IA, et ainsi garantir une mise en œuvre sans heurts. La mise en place de programmes de formation permet aux collaborateurs de collaborer efficacement avec les outils d'IA, ce qui leur permet de se concentrer sur des tâches à plus forte valeur ajoutée. Cette préparation vise à réduire au minimum les résistances et à maximiser les gains de productivité liés à l'intégration de l'IA.
Reste à voir si des agents tels que nos personnages fictifs Sentinel, Hunter et Defender trouveront une place permanente au sein des équipes chargées des opérations de sécurité modernes. Mais elles sont là pour le moment et semblent apporter une aide précieuse ; les responsables de la sécurité doivent donc apprendre à les connaître, à cerner leurs forces et leurs faiblesses, et à en tirer le meilleur parti.
Leurs équipes de sécurité, déjà surchargées, auraient bien besoin d'un coup de main.
