Elon Musk et Steve Wozniak ont été cités dans les gros titres d’hier concernant la lettre ouverte publiée sur par l’, qui appelle à un moratoire de six mois sur le développement des technologies d’intelligence artificielle (IA). Mais 1 100 autres personnes — des informaticiens assidus, des passionnés de technologie et d’autres experts chevronnés — se sont également jointes à cette initiative pour tirer la sonnette d’alarme concernant l’IA, et un autre groupe de recherche majeur dans ce domaine a emboîté le pas jeudi en publiant sa propre objection officielle sur à l’encontre de la technologie GPT-4.
Cela vaut donc vraiment la peine d'y prêter une attention particulière, quelle que soit l'opinion que vous ayez de M. Musk, propriétaire de Twitter, Tesla et SpaceX, ou de M. Wozniak, cofondateur d'Apple.
Cette lettre, publiée par l'association à but non lucratif Future of Life Institute, appelait les laboratoires spécialisés dans l'IA « à suspendre immédiatement, pour une durée d'au moins six mois, l'entraînement des systèmes d'IA plus puissants que le GPT-4 (y compris le GPT-5, actuellement en cours d'entraînement) ».
, la version GPT-4, a fait ses débuts sur au début du mois. Il s'agit de la dernière version de la technologie linguistique intégrée au chatbot basé sur l'IA ChatGPT, lancé par OpenAI en novembre, qui a suscité un véritable tollé, fait la une des journaux et donné lieu à de nombreuses publications sur les réseaux sociaux. En l’espace de quelques semaines, plus de 100 millions de personnes s’étaient inscrites pour utiliser cet outil gratuit et automatisé, un programme d’ s basé sur l’IA générative de qui permet aux utilisateurs de créer du contenu écrit à la fois exhaustif, issu d’innombrables sources en ligne, et si conversationnel qu’il donne l’impression d’avoir été rédigé par un être humain.
D'autres entreprises se sont lancées dans une course effrénée pour commercialiser des chatbots similaires, et les entreprises et secteurs d'activité de tous horizons cherchent activement des moyens d'intégrer ces outils dans leurs réseaux et modèles économiques existants, allant même jusqu'à explorer l' de l'IA dans le domaine de la cybersécurité.
«Ces derniers mois, les laboratoires d’IA se sont lancés dans une course effrénée visant à développer et à déployer des « esprits numériques » toujours plus puissants que personne — pas même leurs créateurs — ne peut comprendre, prévoir ou contrôler de manière fiable. »Future of Life Institute
« La dernière chose que nous souhaitons, c’est de nous appuyer à tel point sur la technologie et de nous laisser emporter par l’engouement médiatique au point d’en oublier [la réalité] », déclare Krystal Jackson, chercheuse junior en intelligence artificielle au Centre pour la sécurité et les technologies émergentes (CSET) de l’université de Georgetown. M. Jackson, interviewé hier dans le cadre de « Let’s Converge », un nouveau podcast produit par l’éditeur de logiciels de cybersécurité Tanium et dont le lancement est prévu ce printemps, a souligné que ces chatbots sont alimentés et entraînés à partir d’informations trouvées en ligne.
[Écoutez le podcast : Vous êtes accro à ChatGPT ? [Voici l'engouement et l'espoir]
« Certaines informations disponibles sur Internet sont fiables », dit-elle. « Certaines informations sont vraiment mauvaises et nous devons continuer à accorder une grande importance à l'esprit critique. »
Qu'est-ce que le GPT-4 exactement, et devriez-vous vous en inquiéter ?
Depuis leur apparition récente, les chatbots tels que ChatGPT ont fait l'objet de tests de toutes sortes. À ce jour, ils sont capables de réussir les examens de niveau master de l' , de développer du code pour des sites web, et même de concocter la phrase d'accroche parfaite en s'inspirant des profils d'une application de rencontres. Elles pourraient également entraîner une recrudescence des cyberattaques : en permettant à pratiquement n’importe qui de créer beaucoup plus facilement ses propres logiciels malveillants, des e-mails de hameçonnage et d’autres contenus dangereux, cette nouvelle technologie exposera davantage les entreprises à des risques accrus d’attaques de type « » (ransomware) , de menaces internes et de cyberguerre.
«Certaines informations disponibles sur Internet sont fiables. » Certaines informations sont vraiment mauvaises et nous devons continuer à privilégier l'esprit critique. »Krystal Jackson, chercheuse junior en intelligence artificielle au Centre pour la sécurité et les technologies émergentes de l'université de Georgetown
Il y a quelques mois à peine, GPT-3,5 a passé un examen blanc du barreau, obtenant un résultat qui le plaçait dans les 10 % les moins bons de sa promotion. GPT-4 a également réussi l'examen, a indiqué OpenAI, en se classant parmi les 10 % des meilleurs candidats.
Ces bots sont intelligents. Et de plus en plus intelligent. Et nous ne sommes pas préparés à ce qui va suivre, préviennent les signataires de cette lettre ouverte.
« Ces derniers mois, les laboratoires spécialisés dans l’intelligence artificielle se sont lancés dans une course effrénée visant à développer et à déployer des « esprits numériques » toujours plus puissants que personne — pas même leurs créateurs — ne peut comprendre, prévoir ou contrôler de manière fiable », met en garde la lettre.
C'est pour cette raison, disent-ils, qu'il faut marquer une pause. Cela devrait nous inciter tous à réfléchir.
Une pause est-elle envisageable ?
La course au développement de formes d'IA toujours plus puissantes s'accélère à un rythme sans précédent. Beaucoup peuvent avoir le sentiment qu'il n'y a rien à faire pour freiner les progrès de la science et de la technologie, mais l'idée selon laquelle les avancées scientifiques ne peuvent être ni ralenties ni réglementées va à l'encontre de la réalité.
«Cela ne signifie pas un arrêt du développement de l’IA en général, mais simplement une prise de recul par rapport à la course dangereuse vers des modèles de type « boîte noire » toujours plus grands et imprévisibles, dotés de capacités émergentes. »Future of Life Institute
Les organismes de réglementation tels que la Food and Drug Administration (FDA) américaine, qui autorise la mise sur le marché et la commercialisation de nouveaux médicaments, et le ministère américain de l'Agriculture (USDA), qui veille à la sécurité de l'approvisionnement alimentaire commercial, ont été créés en partie pour fournir des lignes directrices aux fabricants. Nous devons tous connaître et respecter les règles élémentaires de circulation avant de nous engager sur une autoroute.
En matière d'IA, nous filons tous à toute allure sur l'autoroute. Et même cette célèbre autoroute comporte parfois des limitations de vitesse.
Ce n’est pas si déraisonnable, soulignent les signataires, que des entreprises telles que Microsoft, Google et d’autres conçoivent de nouvelles technologies en s’appuyant sur une vision commune des principes éthiques et des mesures de sécurité, à l’instar des chercheurs spécialisés dans le clonage qui ont convenu de ne pas — du moins pour l’instant — cloner des bébés humains, aussi rentable ou inévitable que cette avancée puisse paraître.
« Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour élaborer et mettre en œuvre conjointement un ensemble de protocoles de sécurité communs applicables à la conception et au développement de l'IA avancée, qui soient rigoureusement contrôlés et supervisés par des experts externes indépendants », poursuit la lettre. « Cela ne signifie pas pour autant un arrêt du développement de l’IA en général, mais simplement de prendre du recul par rapport à cette course dangereuse vers des modèles de type « boîte noire » toujours plus grands et imprévisibles, dotés de capacités émergentes. »
Considérez cela comme une occasion de fixer des limitations de vitesse et d'installer quelques panneaux indiquant « Sol glissant en cas de pluie ».
Reste à voir si les créateurs d'IA tels que Musk — qui a mis en garde contre une utilisation effrénée et généralisée de l'IA — respectent réellement les règles ou s'ils ignorent ces panneaux au volant de leurs Tesla. Mais cela ne signifie pas pour autant qu’il ne vaut pas la peine de mettre en place ces panneaux et ces limitations.
