(MISE À JOUR : les législateurs du Parlement européen ont voté pour approuver une version préliminaire de la Loi sur l’intelligence artificielle le 14 juin. L’approbation finale du projet de loi est attendue d’ici la fin de cette année, suite aux négociations avec le Conseil de l’Union européenne et les États membres de l’UE.)
Le Parlement européen débat aujourd’hui de la législation historique pour réglementer l’ intelligence artificielle (IA) en fonction du niveau de risque posé par une technologie. La mesure devrait passer par un vote mercredi, ce qui fera de la loi européenne sur l’IA la première loi de l’Ouest à essayer de prendre le contrôle de ce domaine en évolution rapide.
Cela fait suite à la Chine, qui a publié des projets de règles pour ses politiques d’IA en avril. Et la semaine dernière, le Royaume-Uni a annoncé des plans pour le premier sommet mondial sur l’IA, qui réunira un éventail international de dirigeants gouvernementaux, de dirigeants d’entreprises technologiques et de chercheurs scientifiques.
Parallèlement, l’approche américaine des réglementations sur l’IA a été fragmentée, les États promulguant leurs propres lois sur l’IA en patchwork et divers projets de loi au Congrès s’associant pour se positionner avec des propositions et des règles anticipées de la part d’une multitude de nouveaux bureaux et groupes de travail dans les agences administratives fédérales. La cacophonie, comme toute prolifération de réglementations, est source de confusion : bonne chance à toute entreprise qui essaie d’évaluer ses options et obligations en matière d’adoption de la technologie IA. Cela nous ralentit également.
Si les États-Unis espèrent dominer le monde en matière de gouvernance de l’IA, ils devront désormais venir de derrière. En ce moment, il semble que nous soyons à la troisième place. Peut-être quatrième.
Bien que les États-Unis progressent dans l’élaboration de normes d’IA, l’absence d’une stratégie nationale complète signifie que nous participons au rattrapage, en réagissant aux politiques des autres plutôt qu’en établissant nos propres règles de route.
« L’absence d’une approche plus complète signifie que les États-Unis ne sont pas en mesure de présenter un modèle sur la manière d’aller de l’avant à l’échelle mondiale avec la gouvernance de l’IA, et qu’il reste plutôt à répondre aux approches d’autres pays en matière de réglementation de l’IA », a écrit Joshua P. Meltzer, membre senior du Brookings Institute, dans un article de blog le mois dernier.
Voici une brève répartition de la position des leaders en matière de réglementation de l’IA.
La loi de l’UE sur l’IA est axée sur le risque proportionnel
La loi AI Act divise les applications d’IA en quatre catégories : risque minimal ou nul, risque limité, élevé et inacceptable.
« Depuis beaucoup trop longtemps, ces entreprises échappent largement à l’examen réglementaire, mais cela ne peut pas continuer. »Peter Welch, sénateur américain
Tout ce qui tombe dans ce dernier camp serait interdit dans l’UE, y compris les applications qui utilisent :
- Techniques subliminales, manipulatrices ou trompeuses pour fausser le comportement. Pensez à de fausses vidéos qui montrent des célébrités, des politiciens, des enfants victimes d’intimidation et toute autre personne dans une position compromettante (fausse mais trop réelle). Ils seront bientôt diffusés dans une vidéo TikTok près de chez vous.
- Techniques prédictives qui prétendent anticiper les comportements criminels. Regardez le rapport sur les minorités du film Tom Cruise pour une présentation (fictive mais pas irréaliste) sur la façon dont cela peut se passer.
- L’IA émotionnelle, un domaine croissant dans lequel les machines peuvent analyser les détails microscopiques dans les expressions faciales et les inflections de voix pour mieux lire l’émotion humaine. (Soyez honnête, vous avez crié à Siri ou Alexa plus d’une fois, nous devinons. Ils vont bientôt écouter et prendre note.)
- Le scraping non ciblé, une méthode pour faire glisser les images hors de Facebook et d’autres plateformes de réseaux sociaux sans le consentement des utilisateurs, afin de créer ou d’étendre des bases de données de reconnaissance faciale. (Clearview AI est un leader de ce pack. En avril, elle a admis à la BBC qu’elle a collecté des milliards de photos sur les réseaux sociaux et les a vendues aux services de police.)
[Lire également : ce que le secteur technologique peut apprendre de TikTok : la confiance est tout]
Cet acte européen passe également par ChatGPT. Les entreprises qui travaillent sur l’IA générative, qui comprend l’OpenAI détenue par Microsoft et son ChatGPT, ou Bard de Google, ainsi que d’autres « modèles de fondation » devront incorporer des mesures de gouvernance des données dans le développement de produits, en évaluant et en atténuant les risques pour la santé, la sécurité et les droits de l’homme avant de libérer leurs produits auprès du public.
Les règles chinoises mettent l’accent sur la conformité
En 2017, deux chatbots ont été mis hors ligne lorsque les utilisateurs d’une application de messagerie populaire ont partagé des captures d’écran de leurs conversations homme-robot en ligne. Commentaires tels que « Mon rêve chinois est d’aller en Amérique » et « Non » (en réponse à la question « Aimez-vous le parti communiste ? ») n’a pas vraiment satisfait les censeurs gouvernementaux, et les responsables de l’agence chinoise de cyberespace s’assurent que ce genre d’embarras ne se reproduise pas.
« Non. »Un chatbot chinois, lorsqu’on lui a demandé s’il aimait le Parti communiste. (Cela a été censuré rapidement.)
Les nouvelles mesures de l’agence pour la gestion des services d’intelligence artificielle générative décrivent 20 articles pour régir le comportement des entreprises, y compris les exigences selon lesquelles les fournisseurs assument la responsabilité de la légalité des sources d’IA générative (article 7), empêchent l’ addiction au contenu généré (article 10) et purgent les informations personnelles identifiables non protégées (article 11). Le plus froid, bien que cela ne soit pas terriblement surprenant, est l’article 4’s qui exige que tout le contenu généré reflète les « valeurs fondamentales » du Parti communiste chinois.
La Chine, qui a commencé à doubler ses efforts pour devenir un leader mondial de la technologie IA dès 2017 (lorsque ces chatbots bruyants ont provoqué une agitation), semble avoir obtenu une solide avance. Faites-en une « avance incroyable », comme l’a dit une étude récente du groupe de réflexion (financée par le Département d’État américain), en concluant que la Chine est en tête dans 37 des 44 technologies critiques et émergentes. L’impact de cette approche stricte de la réglementation sur le développement de l’IA reste à voir.
Les règles américaines mettent l’accent sur : attendez ! Quelles règles ?
La réglementation ici aux États-Unis reste un travail en cours, Washington (jusqu’à présent, du moins) acceptant une approche volontaire de la conformité. Pour être équitables, divers législateurs et organismes essaient de changer cela, y compris :
- La Maison-Blanche—Sa « Charte pour une Déclaration des droits de l’IA », publiée l’année dernière, décrit cinq principes pour aider à protéger la vie privée et la sécurité des utilisateurs et prévenir la discrimination.
- NIST—Le National Institute of Standards and Technology a publié son cadre de gestion des risques liés à l’IA en janvier, ainsi qu’un guide, un explication, une feuille de route, un passage piéton et des perspectives explicatives. Ils ne sont rien, sinon approfondis. Toutes les règles et directives, bien sûr, sont purement volontaires.
- Congrès—En plus d’inviter Sam Altman, PDG d’OpenAI, au Capitol Hill pour témoigner, les dirigeants présentent diverses idées réglementaires. Chuck Schumer (D-NY), leader majoritaire du Sénat, a lancé un effort en avril pour mobiliser les leaders du secteur afin d’aider à affiner la législation qui exigerait, en partie, des entreprises qu’elles autorisent un examen expert indépendant des technologies d’IA avant leur publication. Et Sens. Michael Bennett (D-CO) et Peter Welch (D-VT) ont réintroduit la législation le mois dernier afin d’établir une toute nouvelle Commission fédérale des plateformes numériques pour superviser la technologie numérique.
« La Big Tech a une énorme influence sur tous les aspects de notre société », a déclaré Welch dans une déclaration. « Depuis bien trop longtemps, ces entreprises échappent largement à l’examen réglementaire, mais cela ne peut pas continuer. »
« Nous avons besoin d’une agence fédérale experte qui puisse défendre les Américains et s’assurer que les outils d’IA et les plateformes numériques fonctionnent dans l’intérêt public », a déclaré Bennett.
C’est vraiment tout ce que tout pays veut pour ses employés. Nous verrons qui y arrive en premier.
