Elon Musk et Steve Wozniak ont fait les gros titres d’hier sur la lettre ouverte appelant à un moratoire de six mois sur le développement de la technologie de l’intelligence artificielle (IA). Mais 1 100 autres, des informaticiens qui travaillent dur, des technophiles et d’autres experts compétents, ont également signé pour déclencher l’alarme concernant l’IA, et un autre grand groupe de recherche sur l’IA a suivi jeudi avec sa propre objection formelle à la technologie GPT-4.
Il est donc bon de faire très attention, peu importe ce que vous pensez de Musk, propriétaire de Twitter/Tesla/SpaceX, ou de Wozniak, cofondateur d’Apple.
La lettre, publiée par l’organisme à but non lucratif Future of Life Institute, appelait les laboratoires d’IA « à suspendre immédiatement pendant au moins six mois la formation des systèmes d’IA plus puissants que le GPT-4 (y compris le GPT-5 actuellement formé). »
GPT-4 a été lancé plus tôt ce mois-ci. Il s’agit de la dernière itération de la technologie linguistique au sein du chatbot d’IA ChatGPT, lancé par OpenAI en novembre, générant une tempête de buzz, de titres et de publications sur les réseaux sociaux. En quelques semaines, plus de 100 millions de personnes s’étaient inscrites pour utiliser l’outil gratuit et automatisé, un programme d’ IA génératif qui permet aux utilisateurs de créer un contenu écrit à la fois complet, extrait d’innombrables sources en ligne, et donc conversationnel, il semble qu’il ait été créé par un humain.
D’autres entreprises ont lancé des chatbots similaires sur le marché, et les entreprises et les secteurs de toutes envergures recherchent fébrilement des moyens d’intégrer ces outils dans les réseaux existants, les modèles commerciaux et même d’explorer l’ IA dans la cybersécurité.
« Ces derniers mois, les laboratoires d’IA se sont retrouvés bloqués dans une course incontrôlée pour développer et déployer des esprits numériques toujours plus puissants que personne, même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable. »Institut du futur de la vie
« La dernière chose que nous voulons est de nous appuyer si fortement sur la technologie et sur le battage médiatique que nous oublions [la réalité] », déclare Krystal Jackson, un boursier junior en IA du Center for Security and Emerging Technology (CSET) de l’Université de Georgetown. Jackson, interviewé hier pour « Let’s Converge », un nouveau podcast produit par le fabricant de logiciels de cybersécurité Tanium et devant être lancé ce printemps, a noté que ces chatbots sont alimentés et formés sur les informations trouvées en ligne.
[Écouter le podcast : Obsession de ChatGPT ? Voici l’Hype et l’espoir]
« Certaines des informations sur Internet sont bonnes », dit-elle. « Certains d’entre eux sont vraiment mauvais et nous devons garder une attention particulière sur la pensée critique. »
Qu’est-ce que GPT-4 exactement et dois-je m’inquiéter ?
Depuis leurs débuts récents, les chatbots comme ChatGPT ont été testés de diverses manières. Jusqu’à présent, ils peuvent passer des examens de niveau supérieur, créer du code pour les sites web, voire créer la ligne de collecte parfaite en fonction des profils dans une application de rencontre. Ils peuvent également augmenter les cyberattaques : en facilitant la création de leurs propres logiciels malveillants, e-mails d’ hameçonnage et autres contenus dangereux pour presque tout le monde, cette nouvelle technologie exposera les entreprises à un risque accru d’attaques par rançongiciel , de menaces internes et de cyberguerre.
« Certaines des informations sur Internet sont bonnes. Certains d’entre eux sont vraiment mauvais et nous devons garder une attention particulière sur la pensée critique. »Krystal Jackson, boursier junior en IA au Center for Security and Emerging Technology de l’Université de Georgetown
Il y a seulement quelques mois, GPT-3,5 a réussi un examen simulé du barreau de l’école de droit, avec un score dans les 10 % inférieurs de la classe. GPT-4 a également réussi l’examen, a rapporté OpenAI, ,notant dans le top 10 %.
Ces robots sont intelligents. Et devenir plus intelligent. Et nous ne sommes pas préparés à ce qui va suivre, avertissent les signataires de cette lettre publique.
[Lire également : Oui, ChatGPT dynamisera le piratage et aidera également à le combattre]
« Ces derniers mois, les laboratoires d’IA se sont retrouvés enfermés dans une course incontrôlée pour développer et déployer des esprits numériques toujours plus puissants que personne, et même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable », avertit la lettre.
Pour cette raison, ils disent que nous devons faire une pause. Ce qui devrait nous rendre tous en pause.
Une pause est-elle réaliste ?
La course au développement de modes d’IA plus puissants s’accélère à un rythme sans précédent. Et beaucoup peuvent penser qu’il n’y a rien qui puisse être fait pour arrêter la progression de la science et de la technologie, mais l’idée que les progrès scientifiques ne peuvent pas être ralentis ou réglementés, malgré la réalité.
« Cela ne signifie pas une pause sur le développement de l’IA en général, simplement un recul de la course dangereuse vers des modèles de boîte noire imprévisibles de plus en plus grands avec des capacités émergentes. »Institut du futur de la vie
Des organismes de réglementation tels que la Food and Drug Administration (FDA) des États-Unis, qui approuve la vente et la commercialisation de nouveaux médicaments, et le Département américain de l’agriculture (USDA), qui supervise la sécurité des approvisionnements alimentaires commerciaux, ont été établis en partie pour fournir des directives aux fabricants. Nous devons tous connaître et convenir des règles de base de la route avant de courir sur n’importe quelle autoroute.
Lorsqu’il s’agit d’IA, nous volons tous vers l’Autobahn. Et même cette fameuse superroute contient parfois des limites de vitesse.
Ce n’est pas si déraisonnable, notez les signataires, pour des entreprises telles que Microsoft, Google et d’autres, de concevoir de nouvelles technologies avec une compréhension partagée des directives éthiques et des dispositions de sécurité, beaucoup de la manière dont les chercheurs qui étudient le clonage ont accepté de ne pas, pour le moment, cloner les bébés humains, même si cette avancée peut sembler rentable ou inévitable.
« Les laboratoires d’IA et les experts indépendants doivent utiliser cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés de l’IA qui sont rigoureusement audités et supervisés par des experts externes indépendants », poursuit la lettre. « Cela ne signifie pas une pause sur le développement de l’IA en général, simplement un recul de la course dangereuse vers des modèles de boîte noire imprévisibles de plus en plus grands avec des capacités émergentes. »
Considérez-le comme une occasion d’établir des limites de vitesse et d’ériger quelques signes qui avertissent « Glissant lorsqu’il est mouillé ».
Que les fabricants d’IA comme Musk, qui ont averti de l’utilisation continue et étendue de l’IA, suivent réellement les règles ou dépassent rapidement ces signes dans leurs Teslas, il reste à voir. Mais cela ne signifie pas que les signes et les limites ne valent pas la peine d’être créés.
