L'IA, définie comme une forme d' , d'apprentissage automatique reposant sur une architecture de réseaux neuronaux, est bien plus qu'un simple sujet à la mode : elle connaît une croissance si rapide que même Elon Musk ne peut freiner son développement fulgurant. Et l'utilisation de l'IA ne semble pas près de ralentir.
Un rapport récent de Bloomberg Intelligence intitulé « » ( ) prévoit que le marché de l'IA générative pourrait générer 1,8 000 milliards de dollars de chiffre d'affaires annuel d'ici 2032, ce qui représenterait jusqu'à 16 % des dépenses mondiales en technologie.
Face à cette augmentation prévue de l’adoption et du développement de l’IA, de nombreuses organisations cherchent à déterminer si l’IA peut améliorer des opérations qui reposaient traditionnellement sur l’analyse humaine : le traitement de grands volumes de données, la gestion d’environnements de plus en plus complexes et le renforcement des stratégies de cybersécurité visant à protéger les données sensibles et les systèmes critiques.
Ce guide détaille les domaines dans lesquels l’IA apporte une réelle valeur ajoutée aux opérations de cybersécurité, ceux où elle introduit de nouveaux risques, ce que les agences fédérales indiquent concernant les menaces liées à l’IA, et comment Tanium développe une gestion autonome des terminaux afin d’aider les équipes à exploiter le potentiel de l’IA en toute confiance et en gardant le contrôle.
Avantages de l'utilisation de l'IA dans le domaine de la cybersécurité
Bien que l'on ne connaisse pas encore pleinement l'étendue et les implications des capacités de l'IA dans le secteur de la cybersécurité, voici un aperçu simplifié des problèmes courants et des domaines d'application dans lesquels les systèmes basés sur l'IA donnent des résultats prometteurs :
Améliorer la détection des menaces
L'IA est capable d'analyser les données issues du trafic réseau, des journaux système, du comportement des utilisateurs et des informations externes sur les menaces afin de détecter les anomalies susceptibles d'indiquer une activité malveillante. Cela inclut les types d'attaques connus, tels que les ransomwares et le phishing, ainsi que des menaces inédites, telles que les exploits « zero-day » et les menaces persistantes avancées (APT).
Soutenir la recherche proactive des menaces
L'IA peut rendre la recherche de menaces plus rapide et plus précise. Les méthodes traditionnelles reposent souvent sur une analyse manuelle et des règles statiques, ce qui peut être lent et ne pas permettre de détecter certaines menaces sophistiquées.
L'IA accélère ce processus en analysant le trafic réseau, le comportement des utilisateurs et l'historique des incidents afin d'identifier les schémas et les anomalies qui indiquent une activité malveillante, que la menace soit connue ou inédite.
Accélérer les interventions en cas d'incidents liés à des menaces de sécurité
L'IA peut contribuer à minimiser l'impact des cyberattaques en automatisant les mesures de réponse initiales et en hiérarchisant les incidents en fonction du risque réel. Cela permet aux équipes d'isoler les systèmes compromis, d' r les terminaux ou les segments de réseau plus rapidement que ne le permet généralement un triage manuel.
L'IA peut également proposer des mesures d'atténuation en temps réel ainsi que des alertes, des recommandations et des conseils hautement personnalisés aux équipes de sécurité pour leur permettre de rétablir et de restaurer le fonctionnement normal du système.
Accélérer les enquêtes sur les incidents
Lorsqu'un incident se produit, un analyste doit collecter, examiner et analyser un grand nombre de données afin de cerner l'ampleur et la gravité d'une attaque. Cela peut s'avérer long et fastidieux, notamment lorsqu'il s'agit d'incidents de grande envergure et complexes.
L'IA peut contribuer à raccourcir ce processus en automatisant la collecte, la mise en corrélation et l'analyse des données provenant de diverses sources, telles que les journaux, le trafic réseau, les terminaux et les informations sur les menaces. L'IA peut également aider les enquêteurs à se faire une idée plus complète de l'ampleur et de l'impact d'une attaque, et ce en un temps nettement plus court.
Assurer une prévention prédictive des menaces
Les modèles d'IA, tels que l'apprentissage profond , peuvent contribuer à prévenir les cyberattaques en identifiant de manière proactive et en bloquant automatiquement les menaces potentielles avant qu'elles ne puissent compromettre les systèmes. L'IA peut également recourir à différents algorithmes, tels que les méthodes d'apprentissage supervisé, non supervisé ou semi-supervisé, afin de tirer des enseignements des données historiques et de réaliser des analyses prédictives permettant de mieux anticiper les incidents futurs.
Déterminer la cause première
L'analyse traditionnelle des causes profondes repose sur la collecte et l'interprétation manuelles des données, ce qui peut entraîner des erreurs humaines et des faux positifs.
L'IA permet d'automatiser une grande partie de ce travail, en établissant des corrélations entre les données issues d'ensembles de données volumineux et complexes afin d'aider les équipes à identifier les vulnérabilités ou les erreurs de configuration qui ont permis une attaque. Résultat : une compréhension plus précise des risques d'exposition, un dispositif de sécurité renforcé et davantage de temps pour que les analystes se consacrent à des tâches à plus forte valeur ajoutée.
Ces fonctionnalités sont encore plus efficaces lorsqu'elles sont utilisées conjointement. Pour en tirer pleinement parti, il est indispensable de veiller à la qualité des données, à leur intégration dans l'ensemble de votre environnement et à la supervision humaine nécessaire pour exploiter les résultats de l'IA en toute confiance. Ensemble, ils constituent le fondement d'une stratégie de sécurité plus proactive et plus réactive.
Ces avantages constituent des arguments de poids en faveur de l'IA dans les opérations de sécurité. Mais les mêmes fonctionnalités qui renforcent vos défenses sont également à la disposition des pirates. Il est tout aussi important de bien comprendre ces risques que d'en saisir les avantages.
L'IA est-elle vraiment capable de prédire les futures cyberattaques ?
Oui, l'IA peut aider à prévoir les futures cyberattaques, mais la réalité est plus nuancée que ne le laisse entendre le titre. Les outils de sécurité basés sur l'IA ne permettent pas de prévoir des attaques spécifiques. Ils identifient les conditions qui augmentent le risque d'une attaque.
Dans le domaine de la cybersécurité basée sur l'IA, la « prédiction » englobe l'ensemble des actions visant à détecter les menaces potentielles avant qu'une attaque ne puisse se produire. Il est utile de considérer ces prévisions davantage comme une veille météorologique que comme une alerte : les solutions de sécurité basées sur l’IA peuvent « surveiller » la présence de tous les éléments susceptibles de conduire à une future attaque grâce à une surveillance et une analyse continues, ce qui permet aux équipes d’agir de manière proactive pour identifier, contenir et corriger les vulnérabilités susceptibles d’être exploitées, avant même qu’une « alerte », c’est-à-dire une attaque active, n’ait la possibilité de se produire.
Grâce à la modélisation prédictive, qui consiste à utiliser des algorithmes d’apprentissage automatique et des techniques statistiques pour tirer des enseignements des données historiques et améliorer sa capacité à détecter les menaces, les solutions basées sur l’IA peuvent analyser de vastes quantités de données provenant de diverses sources, telles que le trafic réseau, les journaux système, les flux de renseignements sur les menaces et le comportement des utilisateurs, afin d’identifier des schémas et des anomalies susceptibles d’indiquer des menaces potentielles, même si celles-ci n’ont jamais été observées auparavant.
Comment ? Les outils de cybersécurité basés sur l'IA étant conçus pour détecter les comportements malveillants, ils excellent dans l'identification des menaces « zero-day », contrairement aux outils de sécurité traditionnels, conçus pour ne détecter que les menaces connues.
«» Les méthodes de défense traditionnelles, qui comprennent les logiciels antivirus, l’application de correctifs, les pare-feu et d’autres mesures de cybersécurité, sont moins efficaces contre les failles « zero-day », qui sont inconnues des éditeurs et des entreprises. Les failles « zero-day » contournent les systèmes de détection traditionnels basés sur les signatures et les anomalies, ainsi que les logiciels antivirus, qui contiennent des informations sur les signatures des attaques connues. »Kelly Morgan, Role of AI in Threat Detection and Zero-day Attacks1
Il est évident que l'IA apporte un réel plus aux opérations de cybersécurité. Mais les techniques qui renforcent vos défenses sont également à la portée des pirates. Il est essentiel de prendre en compte les deux aspects de cette équation pour prendre des décisions éclairées concernant l'adoption de l'IA.
La section suivante examine comment les cyberattaquants utilisent l'IA pour étendre et affiner leurs opérations, et ce que cela implique pour votre stratégie de défense.
Risques de sécurité et limites de l'intelligence artificielle en matière de cybersécurité
Alors que les organisations et les utilisateurs intègrent l'IA et les technologies associées dans de nombreux processus métier, les cybercriminels utilisent également des outils d'IA similaires pour causer des dommages plus rapidement et plus facilement.
Malheureusement, nombreux sont ceux qui ne sont pas préparés à cette nouvelle menace liée à l'IA. A 2023 report on the state of AI by consulting firm McKinsey showed only 38% of respondents were actively mitigating the cybersecurity risks of generative AI, a statistic made even more shocking when you learn this percentage actually decreased by 13% when compared to the results of the same study conducted last year.
Menaces potentielles liées à l'utilisation de l'IA dans le cadre de cyberattaques
La complexité et la sophistication croissantes de ce type d'incidents de cybersécurité liés à l'intelligence artificielle peuvent poser des défis importants aux solutions de sécurité traditionnelles, telles que les logiciels antivirus, les pare-feu et les systèmes de détection d'intrusion. Étant donné que ces solutions s'appuient souvent sur des systèmes plus statiques et fondés sur des règles pour identifier et bloquer les attaques connues, elles peuvent ne pas parvenir à détecter les attaques nouvelles ou inconnues qui exploitent des vulnérabilités « zero-day » ou recourent à des techniques avancées telles que le chiffrement, l'obfuscation ou le polymorphisme.
L'une des façons dont les acteurs malveillants exploitent l'IA consiste à mener des attaques adversaires destinées à tirer parti des vulnérabilités des modèles d'apprentissage automatique, tels que les réseaux neuronaux, en créant des données d'entrée qui semblent normales aux yeux des humains, mais qui sont conçues pour tromper ces modèles et manipuler leurs résultats. Un exemple d'attaque adversaire consiste à utiliser l'IA pour modifier légèrement un e-mail afin de contourner le filtre anti-spam d'une entreprise.
Les cybercriminels utilisent également des modèles d'IA générative, qui englobent un large éventail de types d'IA tels que les grands modèles linguistiques (LLM) et le traitement du langage naturel (NLP), afin d'améliorer leurs techniques d'ingénierie sociale . Par exemple, les cybercriminels utilisent des algorithmes d'IA pour créer des e-mails de hameçonnage plus convaincants. Et ce genre d'incidents se produit déjà à une échelle considérable.
Selon un rapport intitulé « 2023 » publié par la société de cybersécurité SlashNext, on constate une augmentation de 1 265 % des attaques de hameçonnage malveillantes depuis le lancement de ChatGPT fin 2022 , alimentée par des cybercriminels utilisant des outils d’IA générative pour rédiger des e-mails de type « Business Email Compromise » (BEC) et d’autres e-mails de hameçonnage.
«Parmi les utilisateurs les plus courants des chatbots basés sur des modèles linguistiques de grande envergure, on trouve des cybercriminels qui exploitent cet outil pour élaborer des attaques de type BEC et lancer systématiquement des attaques de phishing très ciblées. »SlashNext, The State of Phishing 2023
Selon ce rapport, environ 31 000 tentatives d'hameçonnage ont été recensées chaque jour en moyenne. Environ la moitié des professionnels de la cybersécurité interrogés ont déclaré avoir été victimes d'une attaque de type BEC, et les trois quarts ont indiqué avoir été la cible d'attaques par hameçonnage.
Les e-mails de hameçonnage ont toujours été faciles à repérer, car ils contiennent des fautes d'orthographe, des erreurs grammaticales ou d'autres imperfections. Toutefois, les e-mails de hameçonnage générés par des systèmes d'IA sont généralement ouverts par les utilisateurs à un taux plus élevé que ceux créés manuellement. Grâce aux outils d'intelligence artificielle, les hameçonneurs sont désormais en mesure de créer des e-mails d'hameçonnage très personnalisés et ciblés en analysant les contenus antérieurs, ce qui rend ces e-mails particulièrement convaincants et permet de piéger plus facilement les utilisateurs afin qu'ils cliquent sur les liens qu'ils contiennent et déclenchent ainsi, sans s'en rendre compte, des attaques.
Les pirates exploitent également l'IA générative pour créer du contenu unique afin de contourner les mesures de protection contre d'autres types d'attaques basées sur l'IA, notamment les identités synthétiques et les deepfakes. Par exemple, les cybercriminels peuvent utiliser l'IA pour créer des « deepfakes » de la voix de personnes afin de mener des attaques de spear phishing ou d'exploiter d'autres vecteurs d'attaque.
Le gouvernement américain met en garde contre les dangers des cyberattaques basées sur l'IA
Les inquiétudes croissantes concernant l'utilisation des technologies d'intelligence artificielle et les attaques par ingénierie sociale sont rapidement passées du statut de problème propre au secteur privé à celui de sujet de débat national et mondial, plusieurs agences fédérales menant des initiatives visant à protéger les personnes et les biens contre les menaces cybernétiques et physiques.
Par exemple, la Commission fédérale du commerce des États-Unis (FTC) a publié cet avertissement concernant les « deepfakes » en mars 2023 :
Vous recevez un appel. On entend une voix paniquée au bout du fil. C'est votre petit-fils. Il dit qu'il est dans une situation très délicate : il a eu un accident de voiture et s'est retrouvé en prison. Mais vous pouvez nous aider en faisant un don. Vous prenez une grande inspiration et vous réfléchissez. Vous avez sûrement entendu parler des escroqueries visant les grands-parents. Mais bon sang, on dirait vraiment lui. Comment cela pourrait-il être une arnaque ? Le clonage vocal, voilà comment.
Les organismes publics continuent de jouer un rôle crucial dans la prise de conscience de l'importance et de la complexité de l'IA en matière de cybersécurité et de sécurité des infrastructures. Parmi les textes législatifs fédéraux notables en matière de cybersécurité figure le décret n° 14028, intitulé « Améliorer la cybersécurité de la nation », publié en mai 2021, qui impose aux agences fédérales de renforcer la cybersécurité et l'intégrité de la chaîne d'approvisionnement logicielle.
Par ailleurs, la loi n° 2018 portant création de l'Agence pour la cybersécurité et la sécurité des infrastructures (CISA) a institué cette dernière, dont la mission est de diriger et de coordonner les efforts visant à renforcer la sécurité et la résilience des infrastructures critiques du pays. La CISA propose également toute une gamme de services et de ressources destinés à aider les organisations à évaluer leurs risques en matière de cybersécurité, à mettre en œuvre les meilleures pratiques et à réagir aux incidents de sécurité.
L'IA va-t-elle remplacer la cybersécurité ?
Si l'IA est un outil puissant qui transforme profondément ce domaine, elle ne remplacera pas l'ensemble des efforts déployés en matière de cybersécurité ni le besoin de professionnels qualifiés dans ce domaine.
Même si son utilisation a donné lieu à un certain nombre de résultats prometteurs dans le cadre du renforcement de la cybersécurité, notamment l'automatisation des réponses aux menaces, l'accélération des enquêtes sur les incidents et l'amélioration de la détection des menaces, l'IA n'est pas encore considérée comme une solution autonome.
On a toujours besoin de professionnels de la cybersécurité pour interpréter les résultats fournis par l'IA, prendre des décisions stratégiques et gérer des situations complexes que l'IA pourrait ne pas comprendre pleinement. De plus, alors que les cybercriminels continuent de tirer parti de l'IA pour lancer des attaques de plus en plus sophistiquées, la surveillance humaine devient encore plus essentielle.
L'intelligence artificielle donne les meilleurs résultats lorsqu'elle est associée à l'expertise humaine, qui vient la compléter pour mettre en place des mesures de sécurité plus solides et plus efficaces.
Ce que la cybersécurité basée sur l'IA implique pour les opérations de sécurité
L'utilisation de l' , de l'IA et de l'automatisation dans le domaine de la cybersécurité présente à la fois des défis et des opportunités. Alors que les cybercriminels continuent d'exploiter ces technologies pour lancer des attaques de plus en plus sophistiquées, les éditeurs de solutions de cybersécurité ont eux aussi recours à l'intelligence artificielle et à l'automatisation pour mettre au point des solutions innovantes visant à contrer ces attaques.
Vous devriez voir apparaître davantage d’outils axés sur l’IA au cours des prochains mois, les éditeurs s’efforçant d’intégrer des capacités d’IA générative, l’ l’automatisation de la sécurité et d’autres technologies connexes afin de créer des solutions adaptatives destinées à aider les organisations à mieux lutter contre les menaces de cybersécurité. D'ici peu, ces solutions basées sur l'IA pourraient contribuer à améliorer un large éventail de cas d'utilisation en matière de cybersécurité, tels que la prévention des pertes de données, les antivirus et anti-malwares, la détection des fraudes, la gestion des identités et des accès, les systèmes de détection et de prévention des intrusions, la gestion des risques et de la conformité, la gestion de l'inventaire des actifs informatiques, ainsi que la gestion de la sécurité et des vulnérabilités, pour n'en citer que quelques-uns.
Alors que l'utilisation de l'IA et de l'automatisation ne cesse de se développer, les experts en sécurité, les équipes de cybersécurité et les organisations doivent se tenir informés des dernières menaces générées par l'IA, tout en tirant parti de systèmes de cybersécurité basés sur l'IA afin de renforcer leurs capacités de sécurité et leur résilience, et ainsi mettre en place des systèmes de cyberdéfense encore plus solides.
[À lire également : Pourquoi le poste de directeur de l'IA est appelé à perdurer]
L'avenir de la gestion des terminaux réside dans l'autonomie
Tanium ouvre la voie vers un avenir autonome pour les équipes informatiques, de sécurité de l'information, d'exploitation, ainsi que celles chargées de la gestion des risques et de la conformité. Nous suivons de près les tendances en matière d'IA et d'automatisation informatique « » et élaborons notre feuille de route produit autour de ces technologies révolutionnaires qui ouvrent un vaste éventail de nouvelles opportunités passionnantes.
La gestion autonome des terminaux (AEM) est au cœur de la stratégie de Tanium et marque l'évolution la plus ambitieuse de notre plateforme « » à ce jour. S'appuyant sur la plateforme XEM, AEM exploitera les données en temps réel propres aux terminaux fournies par Tanium afin de proposer des recommandations hautement personnalisées et d'automatiser les actions avec précision.
Découvrez comment les données en temps réel de Tanium alimentent Microsoft Copilot for Security
Les fonctionnalités de Tanium AI s'appuieront sur de nombreuses sources, notamment des algorithmes d'apprentissage automatique, les taux de réussite observés chez les pairs et les seuils de risque, afin de permettre aux organisations d'optimiser et de mieux sécuriser leurs environnements d'une manière jusqu'alors impossible avec les solutions classiques de gestion des terminaux, de gestion des risques et de conformité, d'expérience numérique des collaborateurs et de réponse aux incidents.
Nous travaillons d'arrache-pied à l'intégration de l'IA dans notre plateforme XEM afin d'offrir des fonctionnalités AEM, qui permettront aux organisations de gérer et de sécuriser plus facilement leurs environnements informatiques de plus en plus vastes et complexes. Notre plateforme traitera des millions d’actions, des milliards de points de données en temps réel et un billion de signaux sur plus de 33 millions de terminaux. Elle s’appuiera sur les expériences recueillies à l’échelle mondiale par la communauté Tanium pour aider les organisations à améliorer leurs capacités de prise de décision et à lutter plus efficacement contre le phénomène sans cesse croissant de la cybercriminalité mondiale, en continuant à leur offrir « The Power of Certainty™ ».
Ressources complémentaires
À mesure que la cybersécurité basée sur l'IA évolue, ce guide constituera une ressource évolutive qui sera mise à jour au fur et à mesure de l'apparition de nouvelles données, afin de continuer à aider les entreprises à prendre des décisions plus éclairées concernant les meilleures pratiques et les cas d'utilisation.
Découvrez ces ressources utiles sur l'IA :
Actualités sur l'IA par Tanium
- Tanium AI accélère la prise de décision et l'obtention de résultats grâce à des informations fiables en temps réel et à l'automatisation
- De la fragmentation à l'unification : optimiser la gestion autonome des terminaux sur les appareils mobiles et informatiques grâce au connecteur Tanium pour Microsoft Intune
- Quand on peut enfin faire confiance aux agents IA et aux flux de travail automatisés : comment Tanium AEM pour ServiceNow transforme l'entreprise
- Tanium développe une nouvelle intégration d'agent IA avec Microsoft Security Copilot
- Tanium Autonomous Endpoint Management (AEM) : les expériences qui permettent de faire évoluer les capacités informatiques et la mise en œuvre des mesures de sécurité
- Lean Into Autonomous Incident Response With Endpoint Reactions
En savoir plus sur l'IA
- Découvrez quelles évolutions des capacités créent de nouvelles surfaces d'attaque dans les environnements d'entreprise — et quels contrôles de gouvernance sont les plus susceptibles de faire défaut
- Découvrez comment les entreprises peuvent faire évoluer leurs modèles de gouvernance afin de limiter la prolifération des agents sans freiner l'innovation
- Types d'agents d'IA : du simple réflexe aux systèmes autonomes
- Pourquoi notre univers de l'IA exige une approche de la gestion des risques d'exposition axée en priorité sur la correction
- Comment les RSSI peuvent devenir des « conseillers en risques » liés à l'IA
- Extensions IDE : un nouveau risque persistant pour votre organisation
- L'IA agentique s'impose dans le domaine de la sécurité des opérations : découvrez ses avantages, ses inconvénients et les étapes à suivre pour la déployer à grande échelle
- L'IA bouleverse la sécurité du cloud hybride : ces 4 mesures permettent de la rétablir
- Mettez en place un programme de conformité en matière d'IA prêt pour les audits en découvrant ce que recouvre réellement la conformité en matière d'IA tout au long du cycle de vie de l'IA
- Ce que vous devez savoir sur la nouvelle loi sud-coréenne sur l'IA
- What is agentic AI? What to know about this new AI type
- Envisagez-vous d'intégrer l'IA à vos systèmes de sécurité SOAR ? Pensez à « RoboCop »
- Comment l'IA redéfinit la prévention des pertes de données (DLP)
- Il faut le voir pour le croire : comment les entreprises utilisent l'IA pour renforcer la cybersécurité
- Combattre le feu par le feu : 3 façons essentielles dont l'IA renforce votre arsenal de cybersécurité
- IA contre humains : pourquoi les opérations de sécurité pourraient (ou non) constituer le prochain champ de bataille
- Comment l'IA améliore la détection des anomalies et atténue la fatigue liée aux alertes
- 12 termes liés à l'IA que vous (et votre chatbot séducteur) devriez déjà connaître
- Favoriser la diversité dans le domaine de l'IA : 3 nouveaux collaborateurs s'expriment sur l'offre et la demande dans le cadre de la révolution technologique
- 3 points à prendre en compte pour vous assurer que votre IA est réellement intelligente
- 4 priorités essentielles en matière de direction pour les RSSI à l'ère de l'IA
Écouter
- Nouvel épisode : Découvrez « Shadow AI », la nouvelle menace qui se profile
- Épisode 17 : Copilot AI et les étapes à suivre pour transformer votre entreprise
- Nouvel épisode : L'IA éthique – Dans quelle mesure (et à quel point) pouvons-nous compter sur elle ?
Souhaitez-vous en savoir plus sur les incidents en cours et les attaques récentes grâce à des cyberanalystes professionnels ? Découvrez notre série d’articles de blog « », rédigée par l’équipe Tanium Cyber Threat Intelligence (CTI) , qui passe en revue l’actualité afin de vous fournir les informations indispensables sur les évolutions du paysage des menaces susceptibles d’avoir un impact sur les entreprises et la cybersécurité.
