Christopher Nolan, le réalisateur nominé aux Oscars dont la biopic à succès de la légende de la physique quantique J. Robert Oppenheimer, a frappé les cinémas le week-end dernier, a déclaré qu’il était inspiré par ce que vous pourriez appeler le dilemme du bouton rouge. C’est la question de ces quelques secondes angoissantes, qui obtiennent un temps d’écran considérable dans ce film de trois heures, lorsqu’une main tourne quelques centimètres au-dessus d’un gros bouton rouge, un bouton qui, une fois enfoncé, annoncera la grandeur et la possibilité pour l’humanité ou peut-être, le Juuuuuust, nous effacera du visage de la terre.
Appuyez sur ? Ou ne pas appuyer ?
C’est une question rhétorique. Bien sûr, vous appuyez sur . Les humains font toujours la presse, qu’il s’agisse d’Oppenheimer (qui a dirigé le programme de développement nucléaire américain connu sous le nom de Manhattan Project) et de ses copains scientifiques protrurent littéralement dans le désert du Nouveau-Mexique pendant le test nucléaire de la Trinité de 1945 , ou du tout dernier big bang de Big Tech , le lancement de l’intelligence artificielle sur un public passionné par la technologie.
L’analogie de l’IA est ce dont beaucoup de gens parleront après avoir vu le film, et pour une bonne raison. Il existe de puissantes similitudes entre la chute de la bombe A et l’IA. Nolan lui-même a averti des possibilités de « terrification » de l’IA et a parlé des scientifiques d’aujourd’hui qui ont leur « Oppenheimer moment ». Il a rencontré des chercheurs en IA, déclare-t-il, qui « se tournent vers l’histoire pour se demander : « Quelles sont les responsabilités des scientifiques développant de nouvelles technologies qui peuvent avoir des conséquences imprévues ? »
C’est une bien meilleure question que « d’appuyer ou non » et ce n’est pas uniquement pour les scientifiques. Aujourd’hui, les chefs d’entreprise, les cadres dirigeants, les chefs de la sécurité, les représentants du gouvernement et même les consommateurs doivent se poser la même question. Parce que le véritable dilemme moral et pratique à considérer n’a rien à voir avec le fait d’appuyer (ou non) sur ce gros bouton rouge.
Oppenheimer, l’homme, a tout fait pour avoir appuyé sur le bouton, malgré les risques, et les historiens nous disent qu’il ne regrettait pas de le faire. Non, c’est ce qui se passe après cela qui compte. Et ici, Oppenheimer, le film, peut nous apprendre beaucoup sur ce qui se passe (ou ce qui devrait se passer) aujourd’hui.
« Pourquoi ? » d’Oppenheimer moment
Le film de Nolan est d’une portée épique et presque opératique dans sa conception sonore rugueuse, tandis que nous voyons Oppenheimer (joué par la star des Peaky Blinders , Cillian Murphy) dans des gros plans torturés, surmontés par des préoccupations concernant le pouvoir avec lequel il joue. Les nuages d’incendie bruissent, produisent des étincelles crépitantes et des masses d’étoiles se déforment sur l’écran. Le film est basé sur la biographie 2005 lauréate du prix Pulitzer de Kai Bird et Martin J. Sherwin, American Prometheus, une référence au chap qui a volé le feu aux dieux grecs et l’a donné aux mortels, et Nolan ne saute certainement pas sur les images de flamme.
« Quelles sont les responsabilités des scientifiques qui développent de nouvelles technologies qui peuvent avoir des conséquences imprévues ? »Christopher Nolan, réalisateur et scénariste
Et pourtant, l’un des moments les plus puissants du film est l’un des plus silencieux. Après avoir abandonné la bombe, Oppenheimer demande à un superviseur militaire du Manhattan Project (joué par Matt Damon) de lui demander d’aller maintenant à Washington.
« Je le regarde et je lui réponds : « Pourquoi ? » Damon s’est souvenu lors d’une récente interview. « Et vous vous rendez compte, ohmygod, qu’ils en ont fini avec lui. Maintenant, cette chose est une réalité et elle existe dans le monde et il n’a aucun contrôle sur elle. » Damon a admis que c’était l’un de ses moments préférés dans le film.
C’est essentiellement ce qui s’est passé dans la vie réelle. Bien que la bombe ait fait d’Oppenheimer une célébrité (il a gracié les couvertures des magazines Time and Life ), il n’était rapidement pas pertinent dans les cercles gouvernementaux. Il a commencé à s’exprimer contre la prolifération nucléaire et le développement de la bombe à hydrogène. En tant que responsable de la Commission de l’énergie atomique, il a plaidé pour un organisme international comme les Nations Unies qui réglementerait les armes nucléaires et le développement. Il faudrait des décennies aux décideurs pour voir (ou admettre) cette sagesse.
Au lieu de cela, les conspirateurs McCarthyite l’ont accusé d’être un espion, incitant à une audience gouvernementale dupliquée en 1954, que Nolan déploie dans des détails effrayants. (Pas de spoilers, bien que les insatiablement curieux puissent cliquer ici.) Une fois salué comme le « père de la bombe atomique », il est mort d’une note de bas de page historique quelque peu humiliée en 1967.
C’est maintenant au tour de Geoffrey Hinton
Allez de l’avant aujourd’hui : en tant que pionnier du Deep Learning, Geoffrey Hinton, surnommé le « parrain de l’IA », a plaidé pour l’utilisation de réseaux neuronaux artificiels, et son travail a contribué à alimenter l’avancée de l’IA générative et des chatbots comme ChatGPT. Puis les gros titres sont apparus en mai, annonçant que Hinton démissionnait de son poste chez Google afin de pouvoir parler plus librement de ses craintes concernant l’IA et son développement rapide. Dans les entretiens, il a déclaré que l’IA pouvait devenir superintelligente, développer ses propres objectifs et créer tellement de faux profonds que nous ne saurons plus ce qui est vrai. Quant à l’effacement de l’humanité ? « Ce n’est pas inconcevable », répondit-il.
« Les entreprises ont le devoir de gagner la confiance des gens et de donner aux utilisateurs les moyens de prendre des décisions éclairées. »Président Joe Biden
Il avait, comme Nolan l’appellerait, son « moment d’Oppenheimer ». Il en va de même pour des milliers d’autres chercheurs scientifiques et technologiques, qui ont signé une lettre ouverte en mars plaidant avec les gouvernements et les chefs d’entreprise pour freiner la prolifération incontrôlée de l’IA, profondément inquiets que nous n’en sachions pas encore assez sur l’IA pour la rendre si largement disponible.
Quelqu’un écoute-t-il vraiment ? Le fait que certains scientifiques expriment des craintes de prise de contrôle de robots qui ressemblent à quelque chose d’un film Terminator n’aide pas en termes de crédibilité. Malheureusement, tous les scénarios, même les (peut-être) improbables, doivent être pris en compte et étudiés, et cela ne se produira pas de manière efficace ou efficiente à moins que des scientifiques ne soient inclus dans les discussions.
Certains responsables prennent les arguments des scientifiques au sérieux. Jenn Easterly, directrice de l’agence de cybersécurité et de sécurité des infrastructures, a chastiqué le secteur technologique pour avoir essentiellement utilisé le public comme « nuls de test de collision ». L’Union européenne a adopté sa loi sur l’IA en juin, et vendredi dernier, le président Biden a rencontré les dirigeants de sept entreprises technologiques clés, Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI, pour annoncer un nouvel ensemble de règles régissant la manière dont l’IA est développée et diffusée au public.
« Les entreprises ont le devoir de gagner la confiance des gens et de donner aux utilisateurs les moyens de prendre des décisions éclairées, en étiquetant le contenu qui a été modifié ou généré par l’IA, en éliminant les préjugés et la discrimination, en renforçant les protections de la vie privée et en protégeant les enfants contre les dommages », a déclaré M. Biden dans un discours de la Maison-Blanche décrivant l’accord.
Hélas, l’accord est non contraignant et volontaire. Mais c’est un début.
Connexions Oppenheimer, de Biden à Barbie
Au cours de sa vie, Oppenheimer a plaidé pour une convergence des silos afin que les chercheurs et les gouvernements puissent partager des informations vitales, un processus qui, selon lui, n’améliorerait que l’industrie nucléaire et sa sécurité. Ces idées ont été initialement tranchées par des dirigeants gouvernementaux qui ont opté à la place pour la prolifération nucléaire et la compartimentation, pensant qu’une course à l’armement avec l’Union soviétique était gagnable.
« Vous pouvez revenir à votre vie habituelle ou vous pouvez connaître la vérité sur l’univers. Le choix vous appartient désormais. »Barbie étrange
Un état d’esprit similaire évolue dans les affaires aujourd’hui (témoins de la course pour voir qui peut construire le chatbot plus grand et meilleur). C’est pourquoi il est plus important que jamais d’apprendre de ce nouveau « moment d’Oppenheimer » et de replacer les scientifiques et les chercheurs dans la conversation. Biden a pris des mesures dans cette direction, finançant sept nouveaux instituts de recherche sur l’IA et rencontrant des chercheurs le mois dernier. Après tout, ce sont eux qui sont les plus proches de comprendre comment cette technologie fonctionne réellement et quelles pourraient être ses capacités. Comme Oppenheimer a essayé de nous le dire, il vaut mieux le savoir que de ne pas le savoir.
Curieusement, Barbie, la superproduction encore plus grande qui a frappé ce dernier week-end « Barbenheimer », offre un message similaire.
Après qu’une barbie stéréotypée (la poupée Mattel jouée par Margot Robbie) a découvert qu’elle vivait dans une bulle rose précieuse, elle a rencontré un défi féerique semblable à celui d’une femme par une poupée cynique connue sous le nom de Weird Barbie (l’alunaire du samedi soir Kate McKinnon).
« Vous pouvez revenir à votre vie normale », se souvient Weird Barbie, tenant un escarpin rose pailleté, « ou vous pouvez connaître la vérité sur l’univers », qu’elle représente avec un Birkenstock plat et amusant. « Le choix vous appartient désormais. »
« Le premier, le talon haut », s’estompe Barbie, préférant le fantaisie scintillant.
La marraine de fées cynique se frotte les sourcils. « Vous devez vouloir savoir, OK ? Faites-le à nouveau. »
Nous avons un parrain de l’IA (et une biopic de trois heures) qui nous dit fondamentalement la même chose. Barbie a eu une deuxième chance de relever ce dilemme, mais nous n’avons peut-être pas autant de chance.
