(MISE À JOUR : Les députés du Parlement européen ont voté en faveur d'un projet de loi sur l'intelligence artificielle le 14 juin. L'adoption définitive du projet de loi est prévue d'ici la fin de cette année, à l'issue des négociations avec le Conseil de l'Union européenne et les États membres de l'UE.)
Le Parlement européen débat aujourd’hui d’un texte législatif historique visant à réglementer l’intelligence artificielle (IA) en fonction du niveau de risque présenté par une technologie. Cette mesure devrait être adoptée lors d'un vote mercredi, ce qui fera de la loi européenne sur l'IA la première législation occidentale visant à encadrer ce domaine en pleine évolution.
La Chine a ainsi emboîté le pas, puisque l' a publié en avril un projet de règlement concernant ses politiques en matière d'IA. Et la semaine dernière, l' , au Royaume-Uni, a annoncé ses projets concernant le premier sommet mondial sur l'IA, qui réunira un large éventail de dirigeants gouvernementaux, de dirigeants d'entreprises technologiques et de chercheurs scientifiques du monde entier.
Parallèlement, l’approche américaine en matière de réglementation de l’IA s’est avérée fragmentée : les États ont adopté leurs propres lois sur l’IA, formant un véritable « patchwork » , tandis qu’au Congrès, divers projets de loi se disputent la vedette avec les propositions et les règles attendues émanant d’une multitude de nouveaux bureaux et groupes de travail au sein des agences administratives fédérales. Cette cacophonie, à l’instar de toute prolifération d’ s réglementaires, prête à confusion — bonne chance à toute entreprise qui tente d’évaluer ses options et ses obligations en matière d’adoption des technologies d’IA. Cela nous ralentit également.
Si les États-Unis souhaitent devenir les leaders mondiaux en matière de gouvernance de l'IA, ils vont désormais devoir rattraper leur retard. Pour l'instant, il semblerait que nous occupions la troisième place. Peut-être quatrième.
Bien que les États-Unis progressent dans l'élaboration de normes en matière d'IA, l'absence d'une stratégie nationale globale signifie que nous sommes en train de courir après le temps, en réagissant aux politiques des autres plutôt qu'en établissant nos propres règles du jeu.
« L’absence d’une approche plus globale signifie que les États-Unis ne sont pas en mesure de proposer un modèle permettant de faire avancer la gouvernance de l’IA à l’échelle mondiale et se retrouvent souvent contraints de réagir aux approches adoptées par d’autres pays en matière de réglementation de l’IA », a écrit Joshua P. Meltzer, chercheur senior à l’Institut Brookings, dans un article publié le mois dernier sur le blog « » .
Voici un bref aperçu de la position des principaux acteurs en matière de réglementation de l'IA.
La loi de l'UE sur l'IA repose entièrement sur le principe de la proportionnalité des risques
La loi californienne sur l'IA « » ( ) classe les applications d'IA en quatre catégories : risque minimal à nul, risque limité, risque élevé et risque inacceptable.
«Depuis bien trop longtemps, ces entreprises ont largement échappé au contrôle des autorités de régulation, mais cela ne peut plus durer. »Peter Welch, sénateur américain
Tout ce qui relève de cette dernière catégorie serait interdit dans l'UE, y compris les applications qui utilisent :
- Des techniques subliminales, manipulatrices ou trompeuses visant à fausser le comportement. Pensez aux vidéos « deepfake » qui montrent des célébrités, des responsables politiques, des enfants victimes de harcèlement et n’importe qui d’autre dans une situation compromettante (fausse, mais qui semble bien trop réelle). Vous pourrez bientôt les découvrir dans une vidéo TikTok « » près de chez vous.
- Les techniques prédictives qui prétendent anticiper les comportements criminels. Regardez en streaming le film avec Tom Cruise « » , « Minority Report »et « » pour découvrir (de manière fictive, mais pas irréaliste) à quel point cela peut mal tourner.
- L'IA émotionnelle, , est un domaine en plein essor dans lequel les machines sont capables d'analyser les détails infimes des expressions faciales et des intonations vocales afin de mieux décrypter les émotions humaines. (Soyez honnête : nous supposons que vous avez déjà crié sur Siri ou Alexa plus d'une fois.) Ils ne tarderont pas à écouter et à en prendre bonne note.)
- Le « scraping » non ciblé, , est une méthode d’consistant à extraire des images de Facebook et d’autres plateformes de réseaux sociaux sans le consentement des utilisateurs, afin de créer ou d’enrichir des bases de données de reconnaissance faciale. (Clearview AI est l'un des leaders de ce secteur : en avril, l'entreprise a admis à la BBC avoir collecté des milliards de photos issues des réseaux sociaux et les avoir vendues à des services de police.)
Cette loi européenne s'en prend également à ChatGPT. Les entreprises travaillant dans le domaine de l'IA générative — notamment OpenAI, détenue par Microsoft, et son ChatGPT, ou encore Bard de Google —, les grands modèles linguistiques (LLM) et d'autres « modèles de base » devraient intégrer des mesures de gouvernance des données dans le développement de leurs produits, en évaluant et en atténuant les risques pour la santé, la sécurité et les droits de l'homme avant de mettre leurs produits à la disposition du grand public.
La réglementation chinoise met l'accent sur la conformité
En 2017, deux chatbots ont été mis hors ligne lorsque des utilisateurs d'une application de messagerie très populaire ont partagé en ligne des captures d'écran de leurs conversations entre humains et robots. Des commentaires tels que « Mon rêve chinois, c'est d'aller aux États-Unis » et « Non » (en réponse à la question « Aimez-vous le Parti communiste ? ») Cela n'a pas vraiment plu aux censeurs du gouvernement, et les responsables de l'agence chinoise chargée du cyberespace veillent à ce qu'un tel incident embarrassant ne se reproduise plus.
«n° »Un chatbot chinois, à qui l'on a demandé s'il aimait le Parti communiste. (Ce message a été immédiatement censuré.)
Les nouvelles « Mesures d’ s pour la gestion des services d’intelligence artificielle générative » de l’agence présentent 20 articles destinés à encadrer le comportement des entreprises, notamment des exigences selon lesquelles les prestataires doivent assumer la responsabilité de la légalité des sources de l’IA générative (article 7), prévenir la dépendance des « s » vis-à-vis des contenus générés (article 10) et supprimer les informations personnelles identifiables non protégées (article 11). Le plus inquiétant, bien que cela ne soit pas vraiment surprenant, est l'exigence de l'article 4’s selon laquelle tous les contenus produits doivent refléter les « valeurs fondamentales » du Parti communiste chinois.
La Chine, qui a commencé à redoubler d’efforts pour devenir un leader mondial dans le domaine de l’IA dès 2017 (l’époque où ces chatbots enjoués avaient fait sensation), semble avoir pris une avance considérable . On peut même parler d’une « avance spectaculaire », comme l’a qualifiée une récente étude d’un groupe de réflexion (financée par le Département d’État américain), qui a révélé que la Chine est en tête dans 37 des 44 technologies critiques et émergentes. Il reste à voir quel sera l'impact de cette approche intransigeante en matière de réglementation sur le développement de l'IA.
La réglementation américaine insiste sur le fait que… Attendez ! Quelles règles ?
Aux États-Unis, la réglementation est encore en cours d'élaboration, Washington acceptant (du moins pour l'instant) une approche volontaire en matière de conformité. Pour être honnête, divers législateurs et organismes s'efforcent de changer cette situation, notamment :
- La Maison Blanche —Son document intitulé «Blueprint for an AI Bill of Rights », publié l’année dernière, définit cinq principes visant à protéger la vie privée et la sécurité des utilisateurs et à prévenir la discrimination.
- NIST —L'Institut national des normes et des technologies (NIST) a publié en janvier son cadre de gestion des risques liés à l'IA « » (Gestion des risques liés à l'IA : un cadre pour les organisations) , accompagné d'un guide pratique «» (Guide pratique sur la gestion des risques liés à l'IA), d'un document explicatif « » (Perspectives sur la gestion des risques liés à l'IA), d'une feuille de route « » (Feuille de route pour la gestion des risques liés à l'IA), d'un tableau de correspondance « » (Tableau de correspondance des risques liés à l'IA), ainsi que de documents explicatifs « » (Perspectives sur la gestion des risques liés à l'IA). Ils sont pour le moins minutieux. Toutes ces règles et recommandations sont, bien sûr, purement facultatives.
- Le Congrès —Outre la convocation de Sam Altman, PDG d'OpenAI, au Capitole pour témoigner, les dirigeants proposent diverses mesures réglementaires. Le chef de la majorité au Sénat, Chuck Schumer (D-NY) , a lancé en avril l'initiative « » (L'initiative pour une IA responsable), visant à mobiliser les dirigeants du secteur afin de contribuer à affiner une législation qui, entre autres, obligerait les entreprises à autoriser un examen par un expert indépendant des technologies d'IA avant leur mise à disposition du public. Et les sénateurs Michael Bennett (D-CO) et Peter Welch (D-VT) ont présenté à nouveau le mois dernier le projet de loi « » visant à créer une toute nouvelle Commission fédérale des plateformes numériques chargée de superviser les technologies numériques.
« Les géants de la technologie exercent une influence considérable sur tous les aspects de notre société », a déclaré M. Welch dans un communiqué. « Depuis bien trop longtemps, ces entreprises ont largement échappé au contrôle des autorités de régulation, mais cela ne peut plus durer. »
« Nous avons besoin d’une agence fédérale spécialisée, capable de défendre les intérêts du peuple américain et de veiller à ce que les outils d’IA et les plateformes numériques fonctionnent dans l’intérêt général », a renchéri M. Bennett.
C'est vraiment tout ce que n'importe quel pays souhaite pour sa population. Nous verrons bien qui y arrivera le premier.
