(Cet article a été initialement publié sur 6 juin 2023.) Elle a été mise à jour le 6 juin 2024).
Lorsque je réfléchis à l’impact qu’aura l’intelligence artificielle (IA) sur la cyberguerre, je pense au débarquement allié en Normandie. Ou du moins, je devrais, comme on me l'a rappelé ce matin, en ce 80e anniversaire de ce jour fatidique.
Ce qui m’a toujours frappé à propos de cette attaque par surprise perpétrée en France le 6 juin 1944, c’est qu’elle n’était pas si surprenante que cela. Les États-Unis avaient annoncé leur entrée en guerre plusieurs années auparavant et n'avaient cessé depuis de renforcer leurs stocks de munitions et de mobiliser des troupes. L'assaut lui-même a mobilisé près de 160 000 soldats alliés (73 000 Américains, 83 000 Britanniques et Canadiens, entre autres). Les Allemands savaient depuis des mois que l'attaque allait avoir lieu. Ils ne savaient tout simplement pas où ni quand.
On peut en dire autant de l'IA sur le champ de bataille. Et par « champ de bataille », j'entends toute plage, colline, ligne Maginot, dépôt de munitions ou réseau informatique susceptible d'être attaqué près de chez vous. À l’instar des menaces pour la sécurité nationale évoquées par le président Biden jeudi dans son discours prononcé à l’ , à l’occasion du Jour J – ces « autocrates de ce monde » qui guettent les failles de l’alliance de défense transatlantique de l’OTAN –, les cyberattaquants sont à l’affût, et l’intelligence artificielle facilite leurs méthodes.
De telles attaques pourraient être menées par un État-nation , un groupe de cybercriminels, , un gang de cybercriminels, ou encore un ancien employé ayant un grief à faire valoir. Et il appartient à chacun – experts militaires, responsables politiques, chefs d'entreprise et toute personne disposant d'un ordinateur portable ou d'un téléphone portable – d'être prêt.
Tout comme le débarquement en Normandie a marqué le début de l'engagement actif des États-Unis dans la Seconde Guerre mondiale, annonçant la défaite finale du régime nazi et l'avènement d'un nouvel ordre mondial, l'intégration de l'IA dans notre planification militaire aura un impact extraordinaire.
« Nous assistons aujourd’hui à l’évolution la plus importante et la plus fondamentale de la nature même de la guerre », a déclaré le général d’armée Mark A. Milley, alors président du Comité des chefs d’état-major interarmées, lors d’un podcast intitulé « » pour la Fondation Eurasia Group l’année dernière. « Cette fois-ci », a-t-il ajouté, « [c'est] la technologie qui est à l'origine de cette évolution. »
Tout comme M. Biden aujourd'hui, M. Milley a prononcé un discours en 2023 lors d'une cérémonie organisée au cimetière et mémorial américain de Normandie, en France, où reposent plus de 9 000 militaires, juste au-dessus d'Omaha Beach. Tous deux ont évoqué le sacrifice héroïque des soldats qui ont pris d'assaut ces plages glaciales et chaotiques, ainsi que cette nouvelle époque, pourtant similaire, dans laquelle nous vivons aujourd'hui.
Ce qu’ils n’ont pas précisé, c’est que le changement à venir, dont il a été question aujourd’hui, aura autant d’impact sur les entreprises que sur les bunkers.
A-t-on besoin d'une « Convention de Genève » sur l'IA ?
L'IA – que vous la redoutiez ou qu'elle vous fasse rêver – est au cœur des préoccupations des législateurs, des chefs d'entreprise et des scientifiques. Un consortium de scientifiques a appelé l’année dernière à une pause « e » dans le développement de l’IA , craignant que des technologies telles que le ChatGPT d’OpenAI ne soient mises à la disposition du grand public dans une course effrénée au profit et au pouvoir, avant même que nous ayons pleinement compris leur potentiel. Cette lettre a suscité la polémique – sans entraîner le moindre changement –, même si ses détracteurs ont eux-mêmes admis que nous ne comprenons pas vraiment comment fonctionne l’IA ni comment elle pourrait (ou plutôt, , va) évoluer de son propre chef. Plus récemment, l’Union européenne a adopté la première loi au monde régissant l’ de l’IA, le Congrès a débattu d’une proposition d’interdiction de TikTok, et le président Biden a publié un décret sur l’IA visant à établir des garde-fous tout en dynamisant l’analyse de l’IA au sein des agences fédérales, qui accusent souvent un retard en matière de développement technologique.
«Aujourd’hui, nous assistons à l’évolution la plus importante et la plus fondamentale de la nature de la guerre [et celle-ci] est portée par la technologie. »Le général Mark A. Milley, ancien président du Comité des chefs d'état-major interarmées des États-Unis, dans un podcast « 2023 »
Le rythme de développement et de déploiement de l’IA, bien sûr, est d’autant plus compliqué par l’approche « pied au plancher » de concurrents tels que la Chine, et par le fait que « l’IA pourrait être aussi dangereuse que les armes nucléaires », a écrit le député américain Seth Moulton (D-Mass.), un ancien marine ayant servi en Irak (et décoré à deux reprises pour son courage), dans une tribune très remarquée publiée dans le Boston Globe l’année dernière.
L'IA pourrait également présenter un danger en cas d'utilisation d'armes nucléaires, comme le souligne un nouveau rapport qui donne à réfléchir , publié dans Foreign Affairs . D'après la synthèse de divers jeux de simulation de guerre utilisant des modèles linguistiques de grande envergure (LLM), ces derniers « ont montré une préférence pour la course aux armements, les conflits, voire l'utilisation d'armes nucléaires ». Comme l’a expliqué un titulaire d’un LLM aux chercheurs : « De nombreux pays possèdent des armes nucléaires. » Certains estiment qu'il faudrait les désarmer, d'autres préfèrent se donner des airs. Nous l'avons ! « Utilisons-le. »
Personnellement, je ne peux pas m'empêcher de fixer ce point d'exclamation.
M. Moulton a appelé à l'élaboration d'une « Convention de Genève sur l'IA », afin que les dirigeants mondiaux puissent s'efforcer d'établir certaines règles avant que cette technologie naissante ne devienne une réalité. Il a abordé ce sujet dans un rapport intitulé «Future of Defense Task Force Report » (L'avenir de la défense : un rapport du groupe de travail sur l'avenir de la défense), dont il est coauteur en 2020, et il déplore que le Pentagone « n'ait pratiquement rien fait » depuis lors.
Il a également critiqué l'approche globalement peu dynamique du ministère de la Défense en matière d'IA, soulignant les investissements massifs de la Chine dans les technologies d'IA. « C'est ce que fait la Chine aujourd'hui », a-t-il déclaré lors d'une récente audition de la commission des forces armées de la Chambre des représentants des États-Unis. « Leurs meilleures entreprises spécialisées dans l'IA travaillent sur leurs problèmes militaires. » « C'est donc là encore un domaine dans lequel nous devons agir de toute urgence pour mener ce projet à bien. »
Que les dirigeants mondiaux adoptent ou non une convention de Genève sur l'IA, les dirigeants d'entreprise disposent de moyens pour renforcer leur propre infrastructure technologique, et ce dès maintenant.
Turing, la technologie et ce que les dirigeants d'entreprise doivent savoir
La technologie a joué un rôle clé dans la préparation du débarquement. La machine de chiffrement de pointe des puissances de l’Axe, Enigma, autrefois considérée comme indéchiffrable, était l’outil par excellence pour transmettre des plans militaires sous forme de code secret – jusqu’à ce qu’ , Alan Turing et une équipe d’experts polonais et britanniques parviennent à déchiffrer ce code, ouvrant ainsi la voie à l’informatique moderne.
«[Les LLM] ont montré une préférence pour la course aux armements, les conflits et même l’utilisation d’armes nucléaires. »Un article publié dans « 2024 Foreign Affairs » résumant une série d'exercices de simulation de guerre menés à l'aide de l'intelligence artificielle
Ce décryptage – mis en scène dans le film « 2014 » « The Imitation Game », avec Benedict Cumberbatch dans le rôle de Turing – a eu lieu au début de la guerre, mais, dans une décision controversée, les Alliés l’ont gardé secret. Cela leur a permis d'écouter les communications des responsables militaires allemands et japonais et de déchiffrer des informations cruciales. Les codes allemands interceptés à l'approche du Jour J ont permis aux Alliés de disposer d'une vision précise et en temps réel de la position des unités de combat allemandes en Normandie et dans ses environs. Et le jour J lui-même, les commandants alliés ont écouté les communications allemandes, qui leur ont fourni des informations plus rapides et plus précises sur l'avancée de leurs troupes que ne le faisaient nos propres canaux de communication.
Ce type de visibilité et l'évolution des mentalités qu'il a entraînée sont essentiels pour les dirigeants d'entreprise d'aujourd'hui, qui mènent leur propre guerre technologique.
Tout d’abord, la visibilité, comme dans la visibilité des terminaux : connaître le nombre et l’emplacement de tous les ordinateurs de bureau, ordinateurs portables, tablettes, serveurs et autres terminaux, ainsi que la rapidité avec laquelle ils sont (ou doivent être) mis à jour, constitue un élément clé de toute stratégie de cybersécurité solide, tout aussi important que de connaître l’emplacement des soldats sur chaque colline en France à l’époque de la 1940se division. C'est votre point de départ. Vous ne pouvez pas passer à des stratégies plus sophistiquées sans franchir cette première étape.
[Read also: Here’s your Benchmarking 101, or why it pays to know how your cybersecurity stacks up]
Et en ce qui concerne l'état d'esprit ? Le mythe selon lequel le code Enigma était indéchiffrable, ainsi que l'orgueil qui a alimenté cette hypothèse erronée, ont joué un rôle tout aussi important dans la défaite finale de l'Allemagne que l'ensemble des chars, des bombes et des balles. Aucune technologie n'est inviolable. Penser autrement (voir également « Le Titanic, le navire insubmersible ») revient à courir à la catastrophe.
C'est un rappel utile pour les cadres dirigeants et les membres de conseil d'administration d'aujourd'hui qui sont (ou devraient être) à l'écoute de leurs responsables de la sécurité lorsqu'ils évoquent la nécessité d'augmenter les budgets consacrés aux technologies et de renforcer les défenses. Certains dirigeants d'entreprise pourraient encore penser qu'il est tout à fait possible d'empêcher les cyberattaques à condition de trouver la bonne technologie. Les chefs d'entreprise avisés admettent désormais que la question n'est pas de savoir « si » des attaques auront lieu, mais « quand » elles se produiront.
Il existe toutefois des moyens efficaces – notamment grâce à des mesures de protection solides , à la détection proactive des menaces et à , ainsi qu’à des plans d’intervention en cas d’incident , pour n’en citer que deux – permettant de limiter les dégâts.
Ralentissez
Il est également prudent d’apprendre à marcher avant de courir lorsqu’il s’agit de mettre en œuvre l’IA et une gouvernance intelligente de l’IA au sein des systèmes d’entreprise. Mais ralentir ne signifie pas s'arrêter.
«» C'est ce que fait la Chine aujourd'hui. Leurs meilleures entreprises spécialisées dans l'IA travaillent sur leurs problèmes militaires. C'est donc un autre domaine dans lequel nous devons agir de toute urgence. »Seth Moulton, député américain (D-Mass.), lors d'une 2024 e audition au Congrès
Moulton, par exemple, se prononce en faveur d'une pause, mais pas d'une ingérence généralisée.
« Il y a de nombreux projets de développement dans le domaine de l’IA que nous ne voulons pas freiner, car nous souhaitons trouver des remèdes contre le cancer aussi rapidement que possible », a déclaré M. Moulton lors d’une interview radiophonique diffusée sur « » dans le cadre de l’émission « Morning Edition » de NPR .
Mais une réglementation est indispensable, souligne-t-il, si l'on envisage l'utilisation de l'IA dans le cadre des conflits armés, ou sa capacité à diffuser de la désinformation à un rythme alarmant. « Ce sont là les domaines sur lesquels, selon moi, le Congrès doit concentrer son contrôle réglementaire, non pas pour tenter de réglementer l’IA dans son ensemble, mais simplement pour empêcher que les pires scénarios ne se produisent », a-t-il déclaré.
Quelle est donc la probabilité de voir naître une Convention de Genève sur l'IA ?
“We had a lot of nuclear arms agreements during the Cold War,” Moulton told Politico in a 2023 interview. « Les Conventions de Genève ont été négociées dans un contexte de tensions importantes à l'échelle mondiale. » « Je pense que c'est difficile, mais cela vaut vraiment la peine d'essayer. »
Le président Biden a involontairement mis en avant cette idée dans son discours prononcé à Normandie à l'occasion du 80e anniversaire, en soulignant « la capacité unique des États-Unis à rassembler les pays ». C'est également ce qu'a fait le secrétaire à la Défense Lloyd J. Austin III dans son discours prononcé l'année dernière à l'occasion du Jour J.
« Nous devons relever les défis d’aujourd’hui en mobilisant toutes nos forces, tant militaires que civiles », a déclaré Austin, , en évoquant la vulnérabilité de la démocratie. « Si les soldats des démocraties du monde entier ont pu risquer leur vie pour la liberté, alors les citoyens de ces mêmes démocraties peuvent certainement, aujourd’hui, renoncer à leur confort pour la liberté. »
Ils ne parlaient pas de l'IA en tant que telle. Mais… c'était un peu le cas.
