Guide ultime sur la cybersécurité basée sur l’IA : avantages, risques et récompenses

Points clés à retenir

L’IA peut apporter une valeur opérationnelle à la cybersécurité lorsqu’elle est appliquée de manière appropriée : dans de nombreux environnements, elle peut aider à accélérer la détection des menaces, automatiser des parties de la réponse aux incidents et prendre en charge une analyse plus rapide des causes profondes dans des environnements complexes.
L’IA ne remplace pas les analystes humains, elle les augmente : des professionnels qualifiés sont toujours essentiels pour interpréter les résultats de l’IA, prendre des décisions stratégiques et gérer les situations où la compréhension de l’IA est limitée.
Les mêmes capacités d’IA peuvent également être utilisées à mauvais escient par les attaquants : les outils qui prennent en charge les cas d’utilisation défensifs peuvent également permettre un phishing plus convaincant, des attaques contradictoires sur les modèles de ML et des deepfakes générés par l’IA.
L’attention réglementaire portée aux risques liés à l’IA augmente : les agences fédérales telles que CISA et la FTC ont publié des directives et des avertissements liés aux menaces basées sur l’IA affectant les personnes et les infrastructures critiques.
Une adoption efficace dépend de la gouvernance et de la supervision : avant de mettre en œuvre des outils de sécurité basés sur l’IA, les organisations doivent évaluer la qualité des données, la complexité de l’intégration et le modèle de supervision humaine requis pour s’assurer que les résultats de l’IA sont interprétables, dignes de confiance et exploitables.

L’IA, définie comme une forme de machine learning basée sur l’architecture de réseau neuronal, est plus qu’un sujet tendance : elle se développe si rapidement que même Elon Musk ne peut pas mettre en pause le développement rapide de l’IA. Et l’utilisation de l’IA ne montre aucun signe de ralentissement à tout moment.

Un rapport récent de Bloomberg Intelligence prévoyait que le marché génératif de l’IA pourrait générer 1,8 billions USD de revenus annuels d’ici 2032, représentant jusqu’à 16 % des dépenses technologiques mondiales.

Avec cette augmentation prévue de l’adoption et de l’expansion de l’IA, de nombreuses organisations évaluent si l’IA peut améliorer les opérations qui dépendent traditionnellement de l’analyse humaine : traiter de grands volumes de données, gérer des environnements de plus en plus complexes et renforcer les stratégies de cybersécurité qui protègent les données sensibles et les systèmes critiques.
Ce guide détaille les domaines où l’IA ajoute une réelle valeur aux opérations de cybersécurité, où elle introduit de nouveaux risques, ce que les agences fédérales signalent sur les menaces basées sur l’IA, et comment Tanium développe une gestion autonome des endpoints pour aider les équipes à agir sur le potentiel de l’IA en toute confiance et avec contrôle.

Avantages de l’utilisation de l’IA dans la cybersécurité

Bien que l’étendue et les implications des capacités d’IA dans le secteur de la cybersécurité ne soient pas encore comprises, voici une vue d’ensemble simplifiée des domaines problématiques courants et des applications des systèmes alimentés par l’IA qui montrent des résultats prometteurs :

Améliorer la détection des menaces

L’IA peut traiter les données sur le trafic réseau, les journaux système, le comportement des utilisateurs et les informations externes sur les menaces pour détecter les anomalies qui peuvent indiquer une activité contradictoire. Cela inclut les types d’attaque connus tels que les rançongiciels et le phishing, ainsi que les menaces jusqu’alors invisibles telles que les exploits zero-day et les menaces persistantes avancées (APT).

Soutenir la recherche proactive des menaces

L’IA peut rendre la recherche des menaces plus rapide et plus précise. Les méthodes traditionnelles reposent souvent sur des analyses manuelles et des règles statiques, qui peuvent être lentes et manquer des menaces sophistiquées.

L’IA accélère ce processus en analysant le trafic réseau, le comportement des utilisateurs et les données historiques sur les incidents afin d’identifier les modèles et les anomalies qui signalent une activité malveillante, que la menace soit connue ou nouvelle.

Accélérer les réponses aux incidents aux menaces de sécurité

L’IA peut aider à minimiser l’impact des cyberattaques en automatisant les actions de réponse initiales et en hiérarchisant les incidents en fonction du risque réel. Cela permet aux équipes d’isoler les systèmes compromis, les appareils d’endpoint ou les segments de réseau plus rapidement que le tri manuel ne le permet généralement.

L’IA peut également fournir des mesures d’atténuation en temps réel et des alertes, recommandations et conseils hautement personnalisés aux équipes de sécurité sur la récupération et la restauration des fonctions système normales.

Accélérer l’enquête sur les incidents

Lorsqu’un incident se produit, un analyste doit acquérir, examiner et analyser beaucoup de données pour apprendre l’étendue et la profondeur d’une attaque. Cela peut être chronophage et fastidieux, en particulier lorsque vous traitez des incidents importants et complexes.

L’IA peut aider à raccourcir ce processus en automatisant la collecte, la corrélation et l’analyse des données à partir de diverses sources, telles que les journaux, le trafic réseau, les endpoints et les informations sur les menaces. L’IA peut également aider les enquêteurs à construire une image plus complète de la portée et de l’impact d’une attaque en beaucoup moins de temps.

Fournir une prévention prédictive des menaces

Les modèles d’IA tels que le Deep Learning peuvent aider à prévenir les cyberattaques en identifiant et en bloquant automatiquement les menaces potentielles avant qu’elles ne compromettent les systèmes. L’IA peut également utiliser différents algorithmes, tels que des méthodes d’apprentissage supervisées, non supervisées ou semi-supervisées, pour apprendre des données historiques et effectuer des analyses prédictives afin de mieux anticiper les incidents futurs.

Déterminer la cause profonde

L’analyse traditionnelle des causes profondes repose sur la collecte et l’interprétation manuelles des données, ce qui introduit le potentiel d’erreurs humaines et de faux positifs.L’
IA peut automatiser une grande partie de ce travail, en corrélant les données entre de grands ensembles de données complexes pour aider les équipes à identifier les vulnérabilités ou les mauvaises configurations qui ont permis une attaque. Le résultat : une compréhension plus précise de l’exposition, une posture de sécurité plus stricte et plus de temps pour que les analystes se concentrent sur le travail à plus forte valeur ajoutée.

[Lire également : les analyses de cybersécurité sont-elles manquantes dans votre stratégie de sécurité ?]

Ces capacités fonctionnent le mieux en combinaison. La réalisation de leur valeur totale dépend de la qualité des données, de l’intégration dans votre environnement et de la supervision humaine nécessaire pour agir en toute confiance sur les résultats de l’IA. Ensemble, ils constituent la base d’une opération de sécurité plus proactive et plus réactive.

Ces avantages plaident en faveur de l’IA dans les opérations de sécurité. Mais les mêmes capacités qui renforcent vos défenses sont également disponibles pour les attaquants. Comprendre ces risques est tout aussi important que comprendre les avantages.

L’IA peut-elle vraiment prédire les cyberattaques futures ?

Oui, l’IA peut aider à prédire les cyberattaques futures, mais la réalité est plus nuancée que ce que suggère le titre. Les outils de sécurité optimisés par IA ne prévoient pas d’attaques spécifiques. Ils identifient les conditions qui rendent une attaque plus probable.

La « prédiction » de la cybersécurité basée sur l’IA implique tout le travail nécessaire pour détecter les menaces potentielles avant qu’une attaque ne puisse se produire. Il est utile de penser à ces prédictions plus comme une surveillance des conditions météorologiques difficiles qu’un avertissement : les solutions de sécurité de l’IA peuvent « surveiller » pour voir si tous les composants qui pourraient conduire à une attaque future sont présents grâce à une surveillance et une analyse continues, permettant aux équipes d’agir de manière proactive pour identifier, contenir et remédier aux vulnérabilités qui pourraient être exploitées, avant qu’une « alerte » ou une attaque active n’ait jamais eu la possibilité de se produire.

Grâce à la modélisation prédictive, qui est le processus d’utilisation d’algorithmes d’apprentissage automatique et de techniques statistiques pour apprendre des données historiques et améliorer leur capacité à détecter les menaces, les solutions alimentées par l’IA peuvent analyser de grandes quantités de données provenant de diverses sources, telles que le trafic réseau, les journaux système, les flux de renseignements sur les menaces et le comportement des utilisateurs, afin d’identifier les modèles et les anomalies qui peuvent indiquer des menaces potentielles, même si elles n’ont jamais été vues auparavant.

Comment ? Étant donné que les outils de cybersécurité IA sont conçus pour rechercher les comportements malveillants, ils excellent à identifier les menaces zero-day par rapport aux outils de sécurité traditionnels conçus pour identifier uniquement les menaces connues.

« Les méthodes traditionnelles de défense, qui comprennent les logiciels antivirus, les correctifs, les pare-feux et d’autres contrôles de cybersécurité, sont moins efficaces contre les zero-days, qui sont inconnus des fournisseurs et des organisations. Les zero-days contournent les détections traditionnelles basées sur les signatures et les anomalies et les logiciels antivirus, qui contiennent des informations de signatures pour les attaques connues. »
Kelly Morgan, rôle de l’IA dans la détection des menaces et le Zero-day Attacks1

L’IA ajoute clairement des capacités réelles aux opérations de cybersécurité. Mais les mêmes techniques qui renforcent vos défenses sont également accessibles aux attaquants. Il est essentiel de reconnaître les deux côtés de cette équation pour prendre des décisions judicieuses concernant l’adoption de l’IA.

La section suivante examine comment les attaquants utilisent l’IA pour faire évoluer et affiner leurs opérations, et ce que cela signifie pour votre stratégie de défense.

Risques de sécurité et limitations de l’intelligence artificielle dans la cybersécurité

Alors que les organisations et les utilisateurs intègrent l’IA et la technologie associée dans de nombreux processus commerciaux différents, les acteurs malveillants utilisent également des outils d’IA similaires pour causer des dommages plus rapidement et plus facilement.

Malheureusement, beaucoup ne sont pas préparés à cette menace émergente de l’IA. Un rapport de 2023 sur l’état de l’IA du cabinet de conseil McKinsey a montré que seulement 38 % des répondants atténuaient activement les risques de cybersécurité de l’IA générative, une statistique qui a rendu encore plus choquante lorsque vous apprenez que ce pourcentage a réellement diminué de 13 % par rapport aux résultats de la même étude menée l’année dernière.

Menaces potentielles de l’utilisation de l’IA dans les cyberattaques

La complexité et la sophistication croissantes de ces types d’incidents de cybersécurité basés sur l’IA peuvent poser des défis importants pour les solutions de sécurité traditionnelles, telles que les logiciels antivirus, les pare-feux et les systèmes de détection des intrusions. Étant donné que ces solutions s’appuient souvent sur des systèmes plus statiques et basés sur des règles pour identifier et bloquer les attaques connues, elles peuvent ne pas détecter les attaques nouvelles ou inconnues qui exploitent des vulnérabilités zero-day ou utilisent des techniques avancées telles que le chiffrement, l’obscurcissement ou le polymorphisme.

L’une des façons dont les acteurs malveillants tirent parti de l’IA est d’effectuer des attaques contradictoires conçues pour exploiter les vulnérabilités dans des modèles d’apprentissage automatique tels que les réseaux neuronaux en créant des entrées qui semblent normales pour les humains, mais qui sont conçues pour tromper les modèles d’apprentissage automatique et manipuler leurs résultats. Un exemple d’attaque contradictoire consiste à utiliser l’IA pour modifier légèrement un e-mail afin de contourner un filtre anti-spam d’entreprise.

Les cybercriminels utilisent également des modèles d’IA générative, englobant un large sous-ensemble de types d’IA tels que les grands modèles linguistiques (LLM) et le traitement du langage naturel (NLP), pour améliorer leurs techniques d’ingénierie sociale. Par exemple, les acteurs malveillants utilisent des algorithmes d’IA pour créer des e-mails d’hameçonnage plus convaincants. Et ces types d’incidents se produisent déjà à une échelle énorme.

Selon un rapport 2023 de l’entreprise de cybersécurité SlashNext, il y a eu une augmentation de 1 265 % des attaques de phishing malveillantes depuis le lancement de ChatGPT à la fin de 2022 menée par des cybercriminels utilisant des outils d’IA générative pour rédiger des e-mails professionnels compromis (BEC) et d’autres e-mails de phishing.

« Certains des utilisateurs les plus courants de chatbots de modèles linguistiques de grande taille sont des cybercriminels tirant parti de l’outil pour aider à écrire des attaques BEC et lancer systématiquement des attaques de phishing hautement ciblées. »
SlashNext, L’état du phishing 2023

En moyenne, le rapport a révélé que 31 000 attaques d’hameçonnage ont été envoyées quotidiennement. Environ la moitié des professionnels de la cybersécurité interrogés ont déclaré avoir reçu une attaque BEC, et les trois quarts ont déclaré être la cible d’attaques de phishing.

Les e-mails d’hameçonnage ont toujours été faciles à détecter, car ils comprennent des mots mal orthographiés, une mauvaise grammaire ou d’autres déficiences. Cependant, les e-mails d’hameçonnage créés par les systèmes d’IA ont généralement des taux plus élevés d’ouverture par les utilisateurs que les e-mails d’hameçonnage créés manuellement. À l’aide d’outils d’IA, les pirates peuvent désormais créer des e-mails d’hameçonnage très personnalisés et ciblés en analysant le contenu passé pour rendre les e-mails très convaincants et inciter plus facilement les utilisateurs à cliquer sur les liens contenus dans les e-mails pour lancer des attaques par inadvertance.

Les pirates informatiques tirent également parti de l’IA générative pour développer un contenu unique afin d’échapper aux contrôles d’autres types d’attaques basées sur l’IA, y compris les identités synthétiques et les faux profonds. Par exemple, les acteurs malveillants peuvent utiliser l’IA pour faire semblant aux voix des gens de lancer le spear phishing ou compromettre d’autres vecteurs d’attaque.

[Lire également : Qu’est-ce que l’hameçonnage ? Comment fonctionne l’hameçonnage et ce qu’il faut rechercher]

Le gouvernement américain avertit des dangers des cyberattaques basées sur l’IA

Les préoccupations croissantes concernant l’utilisation des technologies d’IA et les attaques d’ingénierie sociale sont rapidement passées d’un problème au sein des secteurs privés à une discussion nationale et mondiale, plusieurs agences fédérales menant des efforts pour protéger les personnes et les actifs contre les cybermenaces et les menaces physiques.

Par exemple, la Federal Trade Commission (FTC) des États-Unis a émis cet avertissement sur les contrefaçons profondes en mars 2023 :

Vous recevez un appel. Il y a une voix paniquée sur la ligne. C’est votre petit-fils. Il dit qu’il a de profonds ennuis : il a détruit la voiture et atterri en prison. Mais vous pouvez aider en envoyant de l’argent. Vous respirez profondément et réfléchissez. Vous avez entendu parler d’escroqueries de grands-parents. Mais osez, ça ressemble exactement à lui. Comment cela pourrait-il être une escroquerie ? Clonage vocal, c’est comme ça.

Les agences gouvernementales continuent de jouer un rôle crucial dans la reconnaissance de l’importance et de la complexité de l’IA dans la cybersécurité et la sécurité des infrastructures. Certaines des législations fédérales notables en matière de cybersécurité comprennent le décret 14028, « Améliorer la cybersécurité de la nation », publié en mai 2021, qui exige que les agences fédérales améliorent la cybersécurité et l’intégrité de la chaîne d’approvisionnement logicielle.

De plus, la loi de 2018 sur la cybersécurité et la sécurité des infrastructures a créé la Cybersecurity and Infrastructure Security Agency (CISA), dont la mission est de diriger et de coordonner les efforts visant à améliorer la sécurité et la résilience de l’infrastructure critique du pays. CISA propose également une variété de services et de ressources qui peuvent aider les organisations à évaluer leurs risques de cybersécurité, à mettre en œuvre les meilleures pratiques et à répondre aux incidents de sécurité.

[Lire également : Pouvons-nous vraiment « ignorer » le code vulnérable de GenAI ? Ce professionnel de la sécurité dit oui (en quelque sorte)]

L’IA va-t-elle remplacer la cybersécurité ?

Bien que l’IA soit un outil puissant qui transforme considérablement le domaine, elle ne remplacera pas tous les efforts de cybersécurité ou le besoin de professionnels qualifiés en cybersécurité.

Même avec un certain nombre de résultats prometteurs dans son application pour améliorer les efforts de cybersécurité, tels que l’automatisation des réponses aux menaces, l’accélération des enquêtes sur les incidents et l’amélioration de la détection des menaces, l’IA n’est pas encore considérée comme une solution autonome.

Les professionnels de la cybersécurité sont toujours nécessaires pour interpréter les résultats de l’IA, prendre des décisions stratégiques et gérer des situations complexes que l’IA pourrait ne pas comprendre pleinement. De plus, alors que les cybercriminels continuent à tirer parti de l’IA pour lancer des attaques plus sophistiquées, la supervision humaine devient encore plus critique.

L’IA fonctionne mieux lorsqu’elle est associée à une expertise humaine qui travaille à leurs côtés pour créer des mesures de sécurité plus robustes et efficaces.

Ce que la cybersécurité basée sur l’IA signifie pour les opérations de sécurité

L’utilisation de l’ IA et de l’automatisation dans la cybersécurité présente à la fois des défis et des opportunités. Alors que les cybercriminels continuent à tirer parti de ces technologies pour lancer des attaques plus sophistiquées, les fournisseurs de cybersécurité utilisent également l’IA et l’automatisation pour développer de nouvelles solutions pour contrer ces attaques.

Vous devriez vous attendre à voir davantage d’outils axés sur l’IA devenir disponibles dans les mois à venir alors que les fournisseurs s’efforcent d’intégrer des capacités d’IA génératives, l’ automatisation de la sécurité et des technologies connexes pour créer des solutions adaptatives afin d’aider les organisations à mieux contrer les menaces de cybersécurité. Bientôt, ces solutions basées sur l’IA pourraient aider à améliorer un large éventail de cas d’utilisation de cybersécurité, tels que la prévention des pertes de données, les antivirus/antimalwares, la détection des fraudes, la gestion des identités et des accès, les systèmes de détection/prévention des intrusions, la gestion des risques et de la conformité, la gestion de l’inventaire des actifs informatiques, et la gestion de la sécurité et des vulnérabilités, pour n’en citer que quelques-uns.

Alors que l’utilisation de l’IA et de l’automatisation continue de croître, les experts en sécurité, les équipes de cybersécurité et les organisations doivent rester au fait des dernières menaces générées par l’IA en tirant également parti des systèmes de cybersécurité basés sur l’IA pour améliorer leurs capacités de sécurité et leur résilience afin de construire des systèmes de cyberdéfense encore plus puissants.

[Lire également : pourquoi le directeur de l’IA est là pour rester]

L’avenir de la gestion des endpoints est autonome

Tanium ouvre la voie à un avenir autonome pour les équipes informatiques, de sécurité de l’information, d’exploitation, de risque et de conformité. Nous surveillons de près les tendances de l’IA et de l’automatisation informatique et construisons notre feuille de route produit autour de ces technologies révolutionnaires qui créent un large éventail de nouvelles opportunités passionnantes.

La gestion autonome des endpoints (AEM) est au cœur de la stratégie de Tanium, marquant l’évolution la plus ambitieuse de notre plateforme à ce jour. En s’appuyant sur la base de la plateforme XEM, AEM exploitera les données uniques des endpoints en temps réel de Tanium pour fournir des recommandations hautement personnalisées et automatiser les actions avec précision.

Découvrez comment les données en temps réel de Tanium alimentent Microsoft Copilot pour la sécurité

Les fonctionnalités d’IA de Tanium seront informées par de nombreuses sources, y compris des algorithmes d’apprentissage automatique, des taux de réussite des pairs et des seuils de risque, afin de permettre aux organisations d’optimiser et de mieux sécuriser leurs environnements d’une manière jusqu’alors impossible avec des solutions conventionnelles de gestion des endpoints, de risque et de conformité, d’expérience numérique des employés et de réponse aux incidents.

Nous sommes occupés à intégrer l’IA à notre plateforme XEM pour fournir des capacités AEM, ce qui permettra aux organisations de gérer et de sécuriser plus facilement leurs actifs informatiques croissants et complexes. Notre plateforme traitera des millions d’actions, des milliards de points de données en temps réel et des billions de signaux sur plus de 33 millions d’endpoints. Elle tirera des leçons des expériences mondiales de la communauté Tanium pour aider les organisations à améliorer leurs capacités de prise de décision afin de lutter plus facilement contre la réalité en constante augmentation qui est la cybercriminalité mondiale en continuant à fournir le pouvoir de la certitude.

1https://digitalcommons.odu.edu/cgi/viewcontent.cgi?article=1064&context=covacci-undergraduateresearch

Ressources supplémentaires

À mesure que la cybersécurité IA évolue, ce guide agira comme une ressource vitale pour fournir des mises à jour à mesure que de nouvelles données émergent pour continuer à aider les entreprises à prendre des décisions plus éclairées concernant les meilleures pratiques et les cas d’utilisation.

Consultez ces ressources utiles sur l’IA :

Actualités sur l’IA de Tanium

En savoir plus sur l’IA

Écouter

Vous souhaitez en savoir plus sur les incidents actifs et les attaques récentes de cyberanalystes professionnels ? Lisez notre série de blogs par l’équipe CTI (Cyber Threat Intelligence) de Tanium qui examine ce qui est dans les actualités pour fournir ce que vous devez savoir sur les changements dans le paysage des menaces qui pourraient potentiellement avoir un impact sur les entreprises et la cybersécurité.

Guide ultime de la cybersécurité basée sur l’IA : avantages, risques et récompenses