Christopher Nolan, le réalisateur nominé aux Oscars dont le biopic à grand succès « » , consacré à la légende de la physique quantique J. Robert Oppenheimer, est sorti en salles le week-end dernier, a déclaré s'être inspiré de ce que l'on pourrait appeler le « dilemme du bouton rouge ». C'est la question qui se pose pendant ces quelques secondes angoissantes — auxquelles ce film de trois heures consacre un temps d'écran considérable —, lorsqu'une main tremble à quelques pouces au-dessus d'un gros bouton rouge, un bouton qui, une fois enfoncé, annoncera la grandeur et les possibilités pour l'humanité ou peut-être, juuuuuust peut-être, nous rayera de la surface de la Terre.
La presse ? Ou pas de presse ?
C'est une question rhétorique. Bien sûr que vous appuyez. Les êtres humains vont toujours plus loin, qu’il s’agisse d’Oppenheimer (qui a dirigé le programme américain de développement nucléaire connu sous le nom de « Projet Manhattan ») et de ses collègues scientifiques, littéralement prosternés dans le désert du Nouveau-Mexique lors de l’essai nucléaire « Trinity » n° 1945 , ou d’, de l’ , la dernière grande révolution des géants de la tech : le déploiement de l’intelligence artificielle auprès d’un public obsédé par la technologie.
C'est cette analogie avec l'IA dont beaucoup de gens parleront après avoir vu le film, et à juste titre. Il existe de fortes similitudes entre le largage de la bombe atomique et l'intelligence artificielle. Nolan lui-même a mis en garde contre les possibilités « terrifiantes » de l'IA et a déclaré que les scientifiques d'aujourd'hui vivaient leur « moment Oppenheimer ». Il a rencontré, dit-il, des chercheurs en intelligence artificielle qui « se tournent vers l'histoire pour se demander : “Quelles sont les responsabilités des scientifiques qui développent de nouvelles technologies susceptibles d'avoir des conséquences imprévues ?” »
C'est une bien meilleure question que « presser ou ne pas presser » — et elle ne s'adresse pas uniquement aux scientifiques. Aujourd'hui, les dirigeants d'entreprise, les cadres supérieurs, les responsables de la sécurité, les représentants des pouvoirs publics et même les consommateurs doivent se poser la même question. Car le véritable dilemme moral et la question pratique à laquelle il faut faire face n'ont rien à voir avec le fait d'appuyer (ou de ne pas appuyer) sur ce gros bouton rouge.
Oppenheimer, l'homme lui-même, était tout à fait favorable à l'idée d'appuyer sur le bouton, malgré les risques, et les historiens nous indiquent qu'il ne l'a pas regretté. Non, c'est ce qui se passe ensuite qui compte. Et ici, Le film « Oppenheimer » peut nous en apprendre beaucoup sur ce qui se passe (ou ce qui devrait se passer) aujourd’hui.
Le « Pourquoi ? » d’Oppenheimer instant
Le film de Nolan est d’une ampleur épique et présente une bande-son tonitruante, presque opératique, tandis que l’on voit Oppenheimer (interprété par Cillian Murphy, star de la série « Peaky Blinders » d’ , « ») dans des gros plans tourmentés, submergé par les inquiétudes liées au pouvoir avec lequel il jouait. Des nuages de feu tourbillonnent, des étincelles crépitent et des nuées d'étoiles ondulent à l'écran. The film is based on Kai Bird and Martin J. Sherwin’s Pulitzer Prize-winning 2005 biography, American Prometheus, a reference to the chap who stole fire from the Greek gods and gave it to mortals, and Nolan certainly doesn’t skimp on the flame imagery.
«Quelles sont les responsabilités des scientifiques qui développent de nouvelles technologies susceptibles d’avoir des conséquences imprévues ? »Christopher Nolan, réalisateur et scénariste
Et pourtant, l'un des moments les plus marquants du film est l'un des plus discrets. Après avoir largué la bombe, Oppenheimer demande à un responsable militaire du projet Manhattan (interprété par Matt Damon) s'il doit désormais se rendre à Washington.
« Je le regarde et je lui dis : “Pourquoi ?” » Damon l'a rappelé lors d'une récente interview accordée à « ». « Et là, on se rend compte : “Oh mon Dieu, ils en ont fini avec lui.” » « À présent, cette chose est une réalité, elle existe dans le monde et il n'a aucun contrôle sur elle. » C'était, comme l'a admis Damon, l'un de ses moments préférés du film.
C'est en substance ce qui s'est passé dans la réalité. Bien que la bombe ait fait d’Oppenheimer une célébrité (il a fait la couverture des magazines Time et Life ), il a rapidement perdu toute influence dans les milieux gouvernementaux. Il a commencé à dénoncer la prolifération nucléaire et la mise au point de la bombe à hydrogène. En tant que président de la Commission de l'énergie atomique, il a plaidé en faveur de la création d'un organisme international, à l'image des Nations Unies, chargé de réglementer les armes nucléaires et leur développement. Il faudrait des décennies aux décideurs pour en prendre conscience (ou pour l'admettre).
Au lieu de cela, les partisans de la théorie du complot maccarthyste l’ont accusé d’être un espion, ce qui a donné lieu à une audition gouvernementale hypocrite en 1954, que Nolan décrit avec des détails qui mettent les nerfs à rude épreuve. (Pas de spoilers, mais les plus curieux d'entre vous peuvent cliquer ici sur « » :.) Autrefois salué comme le « père de la bombe atomique », il est mort à l'âge de 1967 ans, relégué au rang de simple note de bas de page de l'histoire, dans une certaine humiliation.
C'est maintenant au tour de Geoffrey Hinton
Revenons à aujourd’hui : en tant que pionnier de l’apprentissage profond, Geoffrey Hinton — surnommé le « parrain de l’IA » — a plaidé en faveur de l’utilisation des réseaux neuronaux artificiels, et ses travaux ont contribué à stimuler les progrès de l’IA générative et des chatbots tels que ChatGPT. Puis, en mai, les gros titres ont annoncé que Hinton quittait son poste chez Google afin de pouvoir s'exprimer plus librement sur ses craintes concernant l'IA et son développement rapide. Lors d’entretiens, il a déclaré que l’IA pourrait devenir une entité superintelligente, se fixer ses propres objectifs et créer tant de « deepfakes » que nous ne saurons plus ce qui est vrai. Quant à l'extermination de l'humanité ? « Ce n’est pas inconcevable, », a-t-il répondu.
«Les entreprises ont le devoir de gagner la confiance du public et de donner aux utilisateurs les moyens de prendre des décisions éclairées. »Le président Joe Biden
Il vivait, comme Nolan l'aurait dit, son « moment Oppenheimer ». Il en va de même pour des milliers d’autres chercheurs en sciences et en technologie, qui ont signé en mars une lettre ouverte de l’ , dans laquelle ils implorent les dirigeants gouvernementaux et les chefs d’entreprise de freiner la prolifération incontrôlée de l’IA, profondément préoccupés par le fait que nos connaissances en la matière sont encore insuffisantes pour en permettre une diffusion aussi large.
Est-ce que quelqu'un écoute vraiment ? Le fait que certains scientifiques expriment des craintes concernant une prise de pouvoir par les robots, qui semblent tout droit sorties d’un film Terminator , ne contribue pas à renforcer leur crédibilité. Malheureusement, tous les scénarios, même ceux qui sont (peut-être) peu probables, doivent être pris en compte et étudiés, et cela ne pourra se faire ni de manière efficace ni efficiente si les scientifiques ne sont pas associés aux discussions.
Certains responsables prennent au sérieux les appels lancés par les scientifiques. Jenn Easterly, directrice de l’Agence pour la cybersécurité et la sécurité des infrastructures, a reproché au secteur technologique d’utiliser en substance le grand public comme « des mannequins d’essai de collision de type “” ». L'Union européenne a adopté en juin sa loi sur l'IA « » , et vendredi dernier, le président Biden a rencontré les dirigeants de sept grandes entreprises technologiques — Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI — afin d'annoncer un nouvel ensemble de règles visant à encadrer le développement et la mise à disposition du public des systèmes d'IA.
« Les entreprises ont le devoir de gagner la confiance du public et de donner aux utilisateurs les moyens de prendre des décisions éclairées : en signalant les contenus qui ont été modifiés ou générés par l’IA, en éliminant les préjugés et la discrimination, en renforçant les mesures de protection de la vie privée et , et en protégeant les enfants contre tout préjudice », a déclaré M. Biden lors d’un discours à la Maison Blanche présentant les grandes lignes de cet accord.
Hélas, cet accord n'est ni contraignant ni obligatoire. Mais c'est déjà un début.
Les liens avec Oppenheimer, de Biden à Barbie
Tout au long de sa vie, Oppenheimer a milité en faveur d'une convergence « » des silos afin que les chercheurs et les gouvernements puissent partager des informations essentielles, un processus qui, selon lui, ne pouvait que contribuer à l'amélioration de l'industrie nucléaire et de sa sécurité. Ces idées ont d'abord été rejetées par les dirigeants gouvernementaux, qui ont préféré opter pour la prolifération nucléaire et la compartimentation, estimant qu'une course aux armements avec l'Union soviétique pouvait être remportée.
«Vous pouvez reprendre le cours normal de votre vie ou découvrir la vérité sur l'univers. » C'est désormais à vous de choisir. »Barbie bizarre
Une mentalité similaire prévaut aujourd'hui dans le monde des affaires (comme en témoigne la course pour savoir qui parviendra à créer le chatbot le plus performant et le plus abouti). C’est pourquoi il est plus important que jamais de tirer les leçons de ce nouveau « moment Oppenheimer » et de redonner aux scientifiques et aux chercheurs leur place dans le débat. M. Biden a pris des mesures dans ce sens, en finançant sept nouveaux instituts de recherche en IA et en rencontrant des chercheurs le mois dernier. Après tout, ce sont eux qui sont les mieux placés pour comprendre comment cette technologie fonctionne réellement et quelles pourraient être ses capacités. Comme Oppenheimer a tenté de nous le faire comprendre, il vaut mieux savoir que ne pas savoir.
Curieusement, « » de Barbie — le film qui a encore plus cartonné lors du dernier week-end « Barbenheimer » — véhicule un message similaire.
Après qu’une Barbie stéréotypée (la poupée Mattel incarnée par Margot Robbie) a découvert qu’elle vivait dans une bulle rose bien protectrice, une poupée cynique surnommée « Weird Barbie » (Kate McKinnon, ancienne membre de l’équipe de « Saturday Night Live » et de « » ) lui lance un défi digne d’une fée marraine.
« Vous pouvez reprendre votre vie habituelle », déclare d’un ton solennel Weird Barbie, en brandissant un escarpin rose pailleté, « ou vous pouvez découvrir la vérité sur l’univers », qu’elle symbolise par une Birkenstock plate et sans charme. « C'est à vous de choisir désormais. »
« Le premier… les talons hauts », s’exclame Barbie, qui préfère ce monde féérique et scintillant.
La marraine cynique fronce les sourcils. « Il faut que vous souhaitiez que soit au courant, d’accord ? » « Refaites-le. »
Nous avons un « parrain » de l'IA (et un biopic de trois heures) qui nous dit en substance la même chose. Barbie a eu une seconde chance face à ce dilemme, mais nous n'aurons peut-être pas cette chance.
