Une cyberattaque de type « » visant une entreprise du secteur de l'énergie basée au Royaume-Uni a utilisé l'intelligence artificielle pour imiter la voix du PDG et a incité un membre du personnel à transférer 243 000 dollars sur un faux compte en 2019. Une campagne de cyberespionnage menée par « » a ciblé 2021 entreprises internationales de télécommunications à l'aide d'e-mails de hameçonnage générés par l'IA. Et l'année dernière, des pirates informatiques utilisant l'IA ont injecté de faux flux vidéo dans le processus de vérification biométrique de la plateforme d'échange de cryptomonnaies Bitfinex, ce qui leur a finalement permis de s'enrichir de 150 millions de dollars en actifs numériques.
Les cyberattaques menées à l'aide de l'IA ne cessent de gagner en sophistication et en capacité à échapper aux détections de jour en jour.
La bonne nouvelle ? Le pouvoir de l’IA est à double tranchant, et un nombre croissant d’entreprises explorent les possibilités offertes par l’ , qui consiste à déployer l’ de l’IA (et son sous-domaine, l’apprentissage automatique) au sein de leurs propres cyberdéfenses – « combattre le feu par le feu », pourrait-on dire.
Aujourd'hui, plus des deux tiers (69 %) des entreprises estiment que l'IA est indispensable à la cybersécurité, car les menaces atteignent désormais des niveaux qui dépassent les capacités des cyberanalystes, selon une étude de Deloitte intitulée « » ().
Bien que l’utilisation de l’IA dans les programmes de cybersécurité en soit encore à ses balbutiements, ses avantages potentiels sont évidents : l’IA est capable de traiter d’énormes quantités de données, de reconnaître rapidement des schémas récurrents et de prendre des décisions éclairées, ce qui aide les organisations à identifier les vulnérabilités et les menaces, à minimiser ou à éliminer ces dernières, et à réagir plus rapidement, explique Maria Schwenger, coprésidente des initiatives de gouvernance et de conformité en matière d’IA au sein de la Cloud Security Alliance (CSA). « L’IA – et l’IA générative – ne se contentent pas de nous aider à assurer la cybersécurité », déclare-t-elle. « Ils nous aident à bâtir un monde nouveau et résilient, doté de systèmes nouveaux et résilients. »
Alors que les organisations commencent à explorer les applications de l'IA dans leurs programmes de cybersécurité, les experts estiment que les domaines suivants sont particulièrement prometteurs.
1. Comment les outils de cybersécurité basés sur l'IA vont améliorer les tests de vulnérabilité
Les ingénieurs en informatique s'efforcent d'écrire du code sécurisé, mais il arrive parfois que des erreurs se produisent. Ils pourraient introduire involontairement des failles de sécurité en recourant à une gestion des erreurs inadéquate ou en omettant de valider les données saisies par les utilisateurs ; la complexité des systèmes pourrait les empêcher d’anticiper toutes les failles de sécurité potentielles ; ou encore, les ingénieurs logiciels pourraient être soumis à des délais serrés pour livrer rapidement de nouvelles fonctionnalités, ce qui les conduirait à prendre des raccourcis ou à faire des compromis sur la qualité et la sécurité du code.
«L’IA – et la GenAI – ne se contentent pas de nous aider à renforcer la cybersécurité. » « Ils nous aident à bâtir un monde nouveau et résilient, doté de systèmes nouveaux et résilients. »Maria Schwenger, coprésidente des initiatives en matière de gouvernance et de conformité de l'IA, Cloud Security Alliance
« De plus », ajoute Nick Merrill, chercheur et directeur du Daylight Lab au Centre pour la cybersécurité à long terme de l’Université de Californie à Berkeley, « les ingénieurs en informatique en savent étonnamment peu sur la sécurité et sur la manière de détecter les failles dans les logiciels qu’ils développent. »
Traditionnellement, lorsque des vulnérabilités sont signalées dans la nature, il incombe aux développeurs de détecter les bogues et de les corriger . Cela peut s'avérer difficile et fastidieux, car cela les oblige à parcourir de nombreux fichiers et modules pour identifier la cause première d'un bug, ou à reproduire les conditions ou scénarios spécifiques afin de comprendre le bug et d'élaborer une solution. Grâce à l'intelligence artificielle, cependant, les entreprises pourraient gagner en rapidité et en efficacité pour détecter et corriger les vulnérabilités potentielles du code, créant ainsi un environnement plus sécurisé, explique M. Merrill.
Les outils basés sur l'IA pourraient, par exemple, passer au crible les bases de code afin d'identifier des vulnérabilités potentielles en analysant des schémas récurrents pour détecter des risques courants tels que les injections SQL et les attaques de type « cross-site scripting ». Les IA pourraient également être entraînées à partir de vastes ensembles de données contenant des vulnérabilités connues afin d'identifier des schémas similaires dans de nouveaux codes, ce qui permettrait de mettre au jour des vulnérabilités jusque-là inconnues ou des exploits « zero-day ».
« Cela permet de gagner du temps et d’économiser des efforts, car les équipes de sécurité n’ont alors plus à passer du temps à rechercher rétrospectivement la faille et à la corriger une fois qu’une vulnérabilité a été signalée dans la nature », explique-t-il. « Donner aux développeurs les moyens de résoudre les problèmes de sécurité serait un immense atout à l'heure actuelle. »
2. Comment les outils de cybersécurité basés sur l'IA vont améliorer la détection des menaces
Identifier les menaces potentielles pour la sécurité à un stade précoce permet d’empêcher tout accès non autorisé aux données sensibles , aux informations confidentielles, à la propriété intellectuelle et aux autres actifs de valeur qui constituent les « joyaux de la couronne »d’une organisation. Cela permet aux organisations d'éviter des fuites de données coûteuses, des pertes financières et une atteinte à leur réputation.
«Donner aux développeurs les moyens de résoudre les problèmes de sécurité [grâce à l’IA] serait une avancée considérable à l’heure actuelle. »Nick Merrill, chercheur et directeur du Daylight Lab, au Centre pour la cybersécurité à long terme de l'Université de Californie à Berkeley
Dans de nombreuses organisations, les analystes en sécurité sont chargés de surveiller manuellement les journaux système, les journaux de trafic réseau et les journaux d'application afin de détecter toute activité suspecte susceptible d'indiquer une faille de sécurité. Ce processus peut s'avérer long et éprouvant pour les personnes concernées, explique M. Schwenger, de la CSA. « Il peut être difficile d’identifier rapidement les menaces, surtout s’il s’agit d’une menace très sophistiquée qui peut échapper à l’œil humain », explique-t-elle. « Avec des analystes humains, une personne ne peut traiter qu’une quantité limitée de données, et il est facile de passer à côté de certaines tendances. » « Mais l’IA est vraiment douée pour repérer des tendances qui pourraient nous échapper. »
L'IA étant capable d'analyser d'énormes quantités de données, elle peut servir à établir une référence en matière de comportement normal pour les systèmes, les réseaux et les utilisateurs. En détectant les écarts ou les anomalies, l'IA peut aider à identifier des menaces potentielles pour la sécurité, telles que des tentatives d'accès non autorisées, un trafic réseau inhabituel ou un comportement anormal des utilisateurs, explique M. Schwenger.
« Il s’agit d’une avancée considérable en matière d’analyse des menaces, car cela permet de détecter plus rapidement ces paramètres et ces anomalies cachés dans les données, qui auraient pu passer inaperçus autrement », explique-t-elle. « Cela vous offre une évolutivité, car vous automatisez des tâches fastidieuses et obtenez des informations en temps réel que vous pouvez transmettre à vos ingénieurs en sécurité, ce qui vous permet de travailler plus rapidement et de gagner en agilité. »
3. Comment les outils de cybersécurité basés sur l'IA permettront d'accélérer la maîtrise des menaces et la réaction face à celles-ci
Lorsqu'une menace a été détectée ou qu'un incident de sécurité s'est produit, il est essentiel d'agir rapidement pour remédier à la situation. « Tout est une question de rapidité lorsqu’il s’agit des menaces de type « », des compromissions de compte , des violations de données et des attaques par ransomware », explique Adam Levin, auteur de « » « Swiped » : Comment se protéger dans un monde rempli d’escrocs, de hameçonneurs et de voleurs d’identité, et coanimateur du podcast « » « What the Hack » . « Vous devez être en mesure d'agir le plus rapidement possible pour colmater la brèche et mettre fin au problème, afin de pouvoir commencer à travailler sur la solution. » « Plus vite vous parvenez à maîtriser la menace, plus vite vous pouvez vous en défendre. »
«Vous devez être en mesure d’agir le plus rapidement possible pour colmater la brèche et mettre fin au problème, afin de pouvoir commencer à travailler sur la solution. »Adam Levin, auteur et coanimateur du podcast « What the Hack »
Les méthodes traditionnelles de maîtrise et de réponse aux menaces reposent largement sur une intervention manuelle. Lorsqu'un incident de sécurité se produit, par exemple, les analystes doivent identifier manuellement les systèmes concernés, isoler les ressources compromises et mettre en œuvre des mesures de confinement. Les analystes en sécurité examineront manuellement les alertes de sécurité, les journaux et les données d'investigation afin de cerner l'ampleur de l'incident, puis s'emploieront à appliquer des correctifs aux systèmes ou à réinitialiser les identifiants compromis. Ces processus prennent du temps et sont source d'erreurs humaines, ce qui peut retarder encore davantage la résolution des problèmes.
Grâce à l'IA, cependant, les algorithmes peuvent évaluer automatiquement la gravité et l'impact de la menace, identifier les ressources concernées, et même coordonner les mesures de réponse, explique M. Schwenger. Cela peut notamment consister à isoler automatiquement les terminaux infectés, à bloquer le trafic malveillant ou à désactiver les services compromis.
« Cela aide vraiment vos équipes de sécurité à prendre des décisions éclairées et à réagir face à un incident, car l’IA peut vous fournir ces informations et formuler des recommandations – elle élimine ainsi toute approximation hasardeuse », explique-t-elle. « À l’avenir, l’ de l’IA générative (GenAI) présente également un grand potentiel, car elle pourrait être utilisée pour générer des rapports et des synthèses à la suite d’un incident, préparer des réponses et contribuer à tenir les parties prenantes informées. »
Bien que le potentiel de l'IA dans le domaine de la sécurité soit considérable, M. Schwenger s'empresse de souligner la nécessité et la valeur indéniables d'un personnel d' , quel que soit le programme de sécurité mis en place. « L’intelligence artificielle n’est efficace que dans la mesure où les données sur lesquelles elle repose, avec lesquelles elle est entraînée et qu’elle analyse sont de bonne qualité. » « Rien ne peut remplacer l'expertise et la supervision humaines, qui resteront toujours indispensables », déclare-t-elle.
