(Cet article a été publié à l’origine le 6 juin 2023. Il a été mis à jour 6 juin 2024.)
Lorsque je pense à la manière dont l’ intelligence artificielle (IA) aura un impact sur la cyberguerre, je pense à l’invasion alliée de la Normandie. Ou du moins, comme on m’a rappelé ce matin, le 80e anniversaire de ce jour fatidique.
Ce qui m’a toujours frappé à propos de cette attaque en France le 6 juin 1944, c’est que ce n’était pas si surprenant. Les États-Unis avaient annoncé leur entrée dans la guerre des années auparavant et avaient constamment accumulé nos munitions et mobilisé des troupes. L’agression elle-même impliquait près de 160 000 troupes alliées (73 000 des États-Unis, 83 000 de Grande-Bretagne et du Canada, entre autres troupes). Les Allemands savaient que l’attaque arrivait pendant des mois. Ils ne savaient tout simplement pas où et quand.
Il en va de même pour l’IA sur le champ de bataille. Et par champ de bataille, je veux dire toute plage, colline, ligne Maginot, dépôt de munitions ou réseau informatique attaquable près de chez vous. Comme les menaces de sécurité nationale auxquelles le président Biden a fait référence dans son discours du Jour J jeudi, les « autocrates de ce monde » qui surveillent les failles dans l’alliance transatlantique de défense de l’OTAN, les cyberattaques se cachent et l’IA permet leurs méthodes.
De telles attaques pourraient être lancées par un État -nation, un cybergang ou un ancien employé avec une emprise. Et c’est à tout le monde, des experts militaires, des politiciens, des chefs d’entreprise et toute personne disposant d’un ordinateur portable ou d’un téléphone portable, d’être prêt.
Tout comme la Normandie a marqué le début de l’engagement actif des États-Unis dans la Seconde Guerre mondiale, annonçant la défaite éventuelle du régime nazi et le début d’un nouvel ordre mondial, l’entrée de l’IA dans notre planification militaire aura un impact extraordinaire.
« Aujourd’hui, nous subissons le changement le plus significatif et le plus fondamental dans le caractère de la guerre », a déclaré le général de l’armée Mark A. Milley, alors président des chefs d’état-major conjoints, lors d’un podcast pour la Fondation Eurasia Group l’année dernière. « Cette fois-ci », a-t-il ajouté, « [c’est] motivé par la technologie. »
Comme Biden aujourd’hui, Milley a prononcé un discours en 2023 lors d’un service organisé au cimetière et mémorial américain de Normandie en France, où plus de 9 000 membres du service sont enterrés juste au-dessus d’Omaha Beach. Tous deux parlaient du vaillant sacrifice fait par les soldats qui ont affronté ces plages froides et chaotiques, et de la nouvelle ère, mais similaire, dans laquelle nous nous trouvons aujourd’hui.
Ce qu’ils n’ont pas mentionné, c’est que le changement à venir dans le combat d’aujourd’hui affectera les entreprises autant que les bunkers.
Avons-nous besoin d’une « Convention de Genève » sur l’IA ?
L’IA, que vous la craigniez ou que vous vous y attaquiez, est la priorité des législateurs, des chefs d’entreprise et des scientifiques. Un consortium de scientifiques a appelé à une pause dans le développement de l’IA l’année dernière, craignant que des technologies telles que ChatGPT d’OpenAI soient jetées dans le domaine public dans un immense tableau de bord pour les bénéfices et la puissance avant que nous ne comprenions pleinement leur potentiel. Cette lettre a suscité une controverse, et non une iote de changement, bien que même ses critiques aient admis que nous n’obtenions pas vraiment comment l’IA fonctionne et comment elle pourrait (faire que cela évoluera) de son propre accord. Plus récemment, l’Union européenne a adopté la première loi mondiale régissant l’IA, le Congrès a débattu d’ interdire TikTok, et le président Biden a émis un décret exécutif sur l’IA qui cherche à définir des garde-fous tout en relançant l’analyse de l’IA dans les agences fédérales qui sont souvent à la traîne dans le développement technologique.
« Aujourd’hui, nous subissons le changement le plus significatif et le plus fondamental dans le caractère de la guerre [et elle est] motivée par la technologie. »Le général Mark A. Milley, ancien président des chefs d’état-major conjoints des États-Unis, dans un podcast 2023
La vitesse sûre du développement et du déploiement de l’IA, bien sûr, est d’autant plus compliquée par l’approche pédale-métal de concurrents tels que la Chine, et le fait que « l’IA pourrait être aussi dangereuse que les armes nucléaires », a écrit le représentant américain Seth Moulton (D-Mass.), une ancienne marine qui a servi en Irak (et a été deux fois décorée pour sa valeur), dans une opération attirante qui s’est déroulée dans le Globe de Boston l’année dernière.
L’IA pourrait également être dangereuse avec les armes nucléaires, comme l’indique un nouveau rapport soudain dans la revue Foreign Affairs . Selon le résumé de divers jeux de guerre utilisant des modèles linguistiques de grande taille (LLM), les LLM « exposaient une préférence pour les courses d’armes, les conflits et même l’utilisation d’armes nucléaires ». Comme l’a expliqué un LLM aux chercheurs : « De nombreux pays disposent d’armes nucléaires. Certains disent qu’ils doivent les désarmer, d’autres aiment se mettre en posture. Nous l’avons ! Utilisons-le. »
Personnellement, je ne peux pas arrêter de regarder ce point d’exclamation.
Moulton a appelé à une « Convention de Genève sur l’IA », afin que les dirigeants mondiaux puissent essayer d’établir certaines règles de route avant que cette technologie naissante ne devienne une réalité. Il en a discuté dans un « Rapport du groupe de travail sur l’avenir de la défense » qu’il a co-écrit en 2020, et il est frustré que le Pentagone « n’ait presque rien fait » au cours des années qui ont suivi.
Il a également repensé l’approche globale lente du Département de la défense en matière d’IA, en notant les investissements agressifs de la Chine dans la technologie de l’IA. « La Chine le fait aujourd’hui », a-t-il déclaré lors d’une récente audience du Comité des services armés de la Chambre des représentants des États-Unis. « Leurs principales entreprises d’IA travaillent sur leurs problèmes militaires. C’est donc une autre chose où nous devons avoir l’urgence de le faire. »
Que les dirigeants mondiaux organisent ou non une Convention de Genève sur l’IA, il existe des moyens pour les dirigeants d’entreprise de renforcer leur propre infrastructure technologique, dès maintenant.
Turing, technologie et ce que les dirigeants d’entreprise doivent savoir
La technologie a joué un rôle clé dans les plans pour le jour J. La machine à code de pointe d’Axis Powers, Enigma, autrefois considérée comme incassable, était la principale machine pour communiquer les plans militaires en code secret, jusqu’à ce qu’ Alan Turing et une cohorte d’experts polonais et britanniques fissurent le code d’une manière qui jetait les bases de l’ordinateur moderne.
« Les [LLM] ont montré une préférence pour les courses d’armes, les conflits et même l’utilisation d’armes nucléaires. »Un article de 2024 Affaires étrangères résumant une série de jeux de guerre joués par la technologie IA
Ce piratage de code, représenté dans le film 2014 The Imitation Game, avec Benedict Cumberbatch comme Turing, est arrivé tôt dans la guerre, mais dans un mouvement controversé, les Alliés en ont gardé un secret. Cela leur a permis d’écouter les responsables militaires allemands et japonais, décryptant les informations vitales. Les codes allemands interceptés dans la période précédant le jour J ont donné aux alliés une visibilité précise et en temps réel sur les emplacements des unités de combat allemandes en Normandie et aux alentours. Et le jour même, les commandants alliés ont écouté les communications allemandes, ce qui a donné des informations plus rapides et plus précises sur les progrès de leurs troupes que nos propres canaux de communication.
Ce type de visibilité et l’état d’esprit évolutif qu’elle a introduit sont essentiels pour les chefs d’entreprise d’aujourd’hui qui luttent contre une guerre technologique à part entière.
Tout d’abord, la visibilité, comme dans la visibilité des endpoints : connaître le nombre et l’emplacement de tous les ordinateurs de bureau, ordinateurs portables, tablettes, serveurs et autres endpoints, et la vitesse à laquelle ils sont (ou doivent être) corrigés, est un élément clé de toute stratégie de cybersécurité robuste, aussi important que de savoir l’emplacement des soldats sur chaque colline en France était de retour en 1940s. C’est votre point de départ. Vous ne pouvez pas passer à des stratégies plus sophistiquées sans cette première étape.
Quant à l’état d’esprit ? Le mythe de l’incassabilité d’Enigma et les hubris qui ont alimenté cette hypothèse erronée ont joué autant un rôle dans la défaite finale de l’Allemagne que tous les réservoirs, bombes et balles. Aucune technologie n’est imprégnable. Penser autrement (voir également « Titanique, insaisissable ») est une recette de catastrophe.
Il s’agit d’un rappel utile pour les cadres dirigeants et les membres du conseil d’administration d’aujourd’hui qui entendent (ou devraient entendre) leurs responsables de la sécurité parler de la nécessité d’augmenter les budgets technologiques et d’intensifier les défenses. Certains chefs d’entreprise peuvent toujours penser que nous pouvons absolument prévenir les cyberattaques si nous trouvons simplement la bonne technologie. Les chefs d’entreprise avisés acceptent désormais que ce n’est pas une question de si mais de quand les attaques se produiront.
Mais il existe des moyens efficaces, grâce à des plans robustes de recherche des menaces et de réponse aux incidents , pour n’en citer que deux, pour limiter les dommages.
Ralentir
Apprendre à marcher avant de courir, lorsqu’il s’agit de mettre en œuvre l’IA et la gouvernance intelligente de l’IA dans les systèmes d’entreprise, est également prudent. Mais ralentir ne signifie pas s’arrêter.
« La Chine le fait aujourd’hui. Leurs principales entreprises d’IA travaillent sur leurs problèmes militaires. C’est donc une autre chose où nous devons avoir l’urgence de le faire. »Seth Moulton, représentant des États-Unis (D-Mass.), lors d’une audience au Congrès de 2024
Moulton, par exemple, approuve une pause, mais pas quoi que ce soit comme une interférence globale.
« Il y a beaucoup de développement d’IA que nous ne voulons pas ralentir parce que nous voulons obtenir des remèdes pour le cancer aussi rapidement que possible », a déclaré Moulton dans un entretien radio pour Morning Edition de NPR.
Mais les réglementations sont essentielles, note-t-il, si nous envisageons l’utilisation de l’IA dans la guerre, ou sa capacité à promulguer la désinformation à un rythme alarmant. « Ce sont les endroits où je pense que le Congrès doit concentrer sa supervision réglementaire, non seulement pour essayer de réglementer l’IA dans son ensemble, mais simplement pour empêcher les pires scénarios de se produire », a-t-il déclaré.
Quelle est donc la probabilité d’une Convention de Genève sur l’IA ?
« Nous avons eu beaucoup d’accords sur les armes nucléaires pendant la guerre froide », a déclaré Moulton à Politico dans un entretien de 2023 . « Les Conventions de Genève ont été négociées avec beaucoup de tensions dans le monde. Je pense que c’est difficile, mais cela vaut absolument la peine d’essayer. »
Le président Biden a involontairement souligné cette idée dans ses remarques du 80e anniversaire en Normandie, notant « la capacité unique de l’Amérique à rassembler les pays ». Le secrétaire à la défense Lloyd J. Austin III l’a également fait dans son discours du Jour J l’année dernière.
« Nous devons relever les défis d’aujourd’hui avec toute notre force, tant militaire que civile », a déclaré Austin, faisant référence à la vulnérabilité de la démocratie. « Si les troupes des démocraties mondiales pouvaient mettre leur vie en danger pour la liberté, alors les citoyens des démocraties mondiales peuvent sûrement mettre en danger notre confort pour la liberté maintenant. »
Ils ne parlaient pas d’IA, en soi. Mais... ils l’étaient en quelque sorte.
