Une cyberattaque contre une entreprise énergétique basée au Royaume-Uni a utilisé l’IA pour imiter la voix du PDG et a trompé un membre du personnel pour transférer 243 000 USD sur un faux compte en 2019. Une campagne de cyberespionnage dans 2021 entreprises de télécommunications internationales ciblées avec des e- mails d’hameçonnage générés par l’IA. Et l’année dernière, les pirates informatiques utilisant l’IA ont injecté de faux flux vidéo dans le processus de vérification biométrique de l’échange cryptographique Bitfinex, gagnant finalement 150 millions USD d’actifs numériques.
Les cyberattaques déployées avec l’IA ne font que devenir plus sophistiquées et évasives chaque jour.
La bonne nouvelle ? La puissance de l’IA diminue dans les deux sens, et un nombre croissant d’entreprises explorent des opportunités de déployer l’IA (et son sous-champ, l’ apprentissage automatique) dans leurs propres cyberdéfenses, luttant contre le feu, selon vous.
Aujourd’hui, plus des deux tiers (69 %) des entreprises pensent que l’IA est nécessaire à la cybersécurité, car les menaces augmentent au-delà de la capacité des cyberanalystes, selon Deloitte.
Bien que la prévalence de l’IA dans les programmes de cybersécurité en soit encore à ses balbutiements, les avantages potentiels sont clairs : l’IA a la capacité de traiter de grandes quantités de données, de reconnaître rapidement les modèles et de prendre des décisions éclairées, aidant les organisations à identifier les vulnérabilités et les menaces, à minimiser ou à éliminer les menaces et à réagir plus rapidement, déclare Maria Schwenger, co-présidente des initiatives de gouvernance et de conformité de l’IA à la Cloud Security Alliance (CSA). « L’IA et le GenAI ne nous aident pas seulement à protéger la cybersécurité », déclare-t-elle. « Ils nous aident à construire un nouveau monde résilient avec de nouveaux systèmes résilients. »
Alors que les organisations commencent à explorer les applications de l’IA dans les programmes de cybersécurité, les experts affirment que les domaines suivants sont très prometteurs.
1. Comment les outils de cybersécurité IA amélioreront les tests de vulnérabilité
Les ingénieurs logiciels s’efforcent d’écrire du code sécurisé, mais parfois des erreurs se produisent. Ils peuvent introduire des vulnérabilités par inadvertance en utilisant une gestion incorrecte des erreurs ou en ne validant pas les entrées des utilisateurs ; des systèmes complexes peuvent rendre difficile pour eux d’anticiper toutes les vulnérabilités de sécurité potentielles ; ou les ingénieurs logiciels peuvent être confrontés à des délais serrés pour fournir rapidement de nouvelles fonctionnalités, entraînant des raccourcis ou des compromis dans la qualité et la sécurité du code.
« L’IA et le GenAI ne nous aident pas seulement à protéger la cybersécurité. Ils nous aident à construire un monde nouveau et résilient avec de nouveaux systèmes résilients. »Maria Schwenger, co-présidente des initiatives de gouvernance et de conformité de l’IA, Cloud Security Alliance
« De plus, » déclare Nick Merrill, chercheur et directeur du Daylight Lab au Centre de cybersécurité à long terme de l’UC Berkeley, « les ingénieurs logiciels connaissent étonnamment peu la sécurité et la manière de rechercher les vulnérabilités dans le logiciel qu’ils écrivent. »
Traditionnellement, lorsque des vulnérabilités sont signalées de manière aléatoire, les développeurs sont responsables de trouver les bugs et de les corriger . Cela peut être difficile et fastidieux, ce qui les oblige à naviguer dans de nombreux fichiers et modules pour identifier la cause profonde d’un bug, ou à reproduire les conditions ou scénarios spécifiques pour comprendre le bug et créer une solution. Cependant, grâce à l’utilisation de l’IA, les organisations pourraient améliorer la vitesse et l’efficacité avec lesquelles elles peuvent détecter et corriger les vulnérabilités potentielles dans le code, créant ainsi un environnement plus sécurisé, explique Merrill.
Les outils alimentés par l’IA pourraient, par exemple, analyser les bases de code pour identifier les vulnérabilités potentielles en analysant des modèles pour détecter les risques courants tels que les injections SQL et les scripts intersites. Les IA pourraient également être formées sur de grands ensembles de données de vulnérabilités connues pour identifier des modèles similaires dans le nouveau code, révélant ainsi des vulnérabilités inconnues auparavant ou des exploits zero-day.
« Cela permet d’économiser du temps et des efforts, car les équipes de sécurité n’ont pas besoin de passer du temps rétroactivement une fois que quelque chose a été signalé de manière sauvage pour ensuite trouver le bug et le corriger », déclare-t-il. « Donner aux développeurs les moyens de résoudre les problèmes de sécurité serait une énorme victoire de nos jours. »
2. Comment les outils de cybersécurité IA permettront la détection des menaces
L’identification précoce des menaces de sécurité potentielles permet d’empêcher l’accès non autorisé aux données sensibles, à la propriété intellectuelle et à d’autres actifs précieux qui constituent les « joyaux de la couronne » d’une organisation. Cela aide les organisations à éviter les violations de données coûteuses, les pertes financières et les dommages à la réputation.
« Donner aux développeurs les moyens de résoudre les problèmes de sécurité [avec l’IA] serait une énorme victoire de nos jours. »Nick Merrill, chercheur et directeur, Daylight Lab, UC Berkeley Center for Long-Term Cybersecurity
Dans de nombreuses organisations, les analystes de sécurité sont responsables de la surveillance manuelle des journaux système, des journaux de trafic réseau et des journaux d’applications pour détecter toute activité suspecte pouvant indiquer une faille de sécurité. Ce processus peut être chronophage et contraignant pour les personnes, explique Schwenger de CSA. « Il peut être difficile d’identifier rapidement les menaces, surtout s’il s’agit d’une menace très sophistiquée qu’un œil humain peut manquer », dit-elle. « Avec les analystes humains, une personne ne peut traiter que tant de données, et il est facile de manquer certains modèles. Mais l’IA est vraiment efficace pour découvrir des modèles que nous pourrions manquer. »
Étant donné que l’IA peut analyser de grandes quantités de données, elle peut être utilisée pour établir une référence du comportement normal pour les systèmes, les réseaux et les utilisateurs. En détectant les écarts ou les anomalies, l’IA peut aider à identifier les menaces de sécurité potentielles, telles que les tentatives d’accès non autorisées, le trafic réseau inhabituel ou le comportement anormal des utilisateurs, explique Schwenger.
[Lire également : les 3 plus grandes menaces GenAI (plus 1 autre risque) et comment les repousser]
« Il s’agit d’une amélioration massive de l’analyse des menaces, car elle permet de découvrir plus rapidement ces paramètres cachés et anomalies cachées dans les données, ce qui aurait pu être manqué autrement », déclare-t-elle. « Cela vous donne de l’évolutivité car vous automatisez des tâches fastidieuses et obtenez des informations en temps réel que vous pouvez transmettre à vos ingénieurs de sécurité, ce qui vous aide à travailler plus rapidement et à être plus agile. »
3. Comment les outils de cybersécurité IA accéléreront le confinement et la réponse aux menaces
Lorsqu’une menace a été détectée ou qu’un incident de sécurité s’est produit, il est essentiel de réagir rapidement pour remédier à la situation. « Il s’agit avant tout de rapidité en matière de menaces, de compromissions, de failles et d’attaques de ransomware », déclare Adam Levin, auteur de Swiped : Comment vous protéger dans un monde rempli d’escrocs, de hameçonnages et de voleurs d’identité, et co-hôte du podcast What the Hack . « Vous devez être en mesure de vous déplacer le plus rapidement possible pour boucher le trou et arrêter le problème afin de pouvoir commencer à travailler sur la solution. Plus vite vous pouvez contenir la menace, plus vite vous pouvez vous défendre contre celle-ci. »
« Vous devez être en mesure de vous déplacer le plus rapidement possible pour boucher le trou et arrêter le problème afin de pouvoir commencer à travailler sur la solution. »Adam Levin, auteur et co-hôte du podcast What the Hack
Les méthodes traditionnelles de confinement et de réponse aux menaces dépendent fortement d’une intervention manuelle. Lorsqu’un incident de sécurité se produit, par exemple, les analystes doivent identifier manuellement les systèmes affectés, isoler les actifs compromis et mettre en œuvre des mesures de confinement. Les analystes de sécurité examineront manuellement les alertes de sécurité, les journaux et les données médico-légales pour comprendre la portée de l’incident, puis travailleront pour corriger les systèmes ou réinitialiser les informations d’identification compromises. Ces processus prennent du temps et présentent des opportunités d’erreur humaine, ce qui peut retarder davantage les résolutions.
[Lire également : 3 considérations pour vous assurer que votre IA est réellement intelligente]
Cependant, avec l’IA, les algorithmes peuvent évaluer automatiquement la gravité et l’impact de la menace, identifier les actifs affectés et même orchestrer les actions de réponse, explique Schwenger. Cela peut inclure l’isolation automatique des endpoints infectés, le blocage du trafic malveillant ou la désactivation des services compromis.
« Cela aide vraiment vos équipes de sécurité à prendre des décisions éclairées et à répondre à un incident, car l’IA peut vous donner ces informations et faire des recommandations, ce qui élimine toutes les conjectures aveugles », déclare-t-elle. « Et à l’avenir, il existe également un grand potentiel pour GenAI, qui pourrait être utilisé pour générer des rapports et des résumés après un incident, préparer des réponses et aider à tenir les parties prenantes informées. »
Bien que le potentiel de l’IA en matière de sécurité soit significatif, Schwenger est rapide à noter le besoin et la valeur durables des humains dans tout programme de sécurité. « L’IA est aussi bonne que les données sur lesquelles elle est basée, sur lesquelles elle est formée et qu’elle analyse. Rien ne peut remplacer l’expertise et la supervision humaines, ce qui sera toujours nécessaire », déclare-t-elle.
