Au milieu du tourbillon d’évolutions observées la semaine dernière dans le domaine de l’intelligence artificielle (IA), le décret présidentiel de grande envergure de Joe Biden intitulé « « » » ( ) pourrait constituer une feuille de route cruciale – ou un obstacle – pour les entreprises qui se précipitent pour tirer parti de cette technologie révolutionnaire.
Publié juste avant le tout premier sommet mondial sur la sécurité de l'IA organisé par l' à Londres, le décret de M. Biden définit des normes de sécurité et de sûreté en matière d'IA, de nouvelles mesures de protection des consommateurs et des travailleurs, ainsi que des garanties contre les biais qui devront être mises au point par le secteur privé et les agences fédérales. Considérez cela comme un ensemble de garde-fous visant à tirer parti et à optimiser les avantages de l'IA tout en atténuant les risques : il s'agit d'une avancée audacieuse (quoique quelque peu tardive) dans la réglementation de l'IA aux États-Unis.
« Ce décret pourrait aider les dirigeants d’entreprise et les membres de conseils d’administration à freiner avant de se lancer à fond dans l’IA », déclare Safia Kazi, responsable des pratiques professionnelles en matière de protection de la vie privée chez ISACA, une organisation professionnelle internationale spécialisée dans la gouvernance informatique . « Cela obligera les entreprises à réfléchir aux risques liés à l'utilisation de l'IA. »
Ralentir ne signifie pas s'arrêter. Au contraire, ce décret vise à dynamiser l'analyse par l'IA au sein des agences fédérales, ce qui met la pression sur les institutions gouvernementales qui sont généralement à la traîne en matière de haute technologie. Par exemple, elle charge le ministère de la Santé et des Services sociaux d'élaborer un « plan stratégique » en matière d'IA d'ici la fin de l'année. Cet « » va-t-il réellement avoir lieu ? Difficile à dire, mais c'est un coup de pouce dont on a grandement besoin.
Dans le même temps, les chefs d'entreprise qui cherchent à prendre une longueur d'avance sur leurs concurrents sont confrontés au problème inverse : nombreux sont ceux qui déploient l'IA à un rythme effréné, sans se douter des virages en épingle à cheveux qui pourraient les attendre.
Le site ChatGPT a été lancé il y a tout juste 11 mois, et d'autres chatbots basés sur l'IA générative ont rapidement suivi, déclenchant un véritable engouement auprès des consommateurs et transformant les lieux de travail. Alors que les entreprises se précipitent pour adopter cette technologie naissante, les dirigeants d'entreprise sont de plus en plus en proie au FOMO (la peur de passer à côté de quelque chose). Cette situation est particulièrement préoccupante dans des domaines tels que la santé, où les médecins et les administrateurs hospitaliers se sont empressés d’acquérir des outils médicaux dotés d’intelligence artificielle – utilisés pour interpréter des examens, diagnostiquer des maladies et prescrire des traitements – qui n’ont pas fait l’objet des tests répétés que le gouvernement exige habituellement pour ce type de dispositifs, comme le souligne un nouveau rapport de Politico intitulé « » (L’IA dans le secteur de la santé : une course effrénée vers l’adoption) .
Le rapport explique que les conséquences du déploiement de l'IA sont difficiles à prévoir, étant donné que les entreprises qui développent ces produits gardent précieusement secrets les algorithmes qui contrôlent leurs appareils. Cette « boîte noire » propriétaire protège la propriété intellectuelle, mais empêche les responsables commerciaux et de la sécurité qui utilisent ces outils de savoir dans quelle mesure ceux-ci sont (ou ne sont pas) sûrs ou efficaces.
C'est là que le nouveau décret de M. Biden pourrait apporter un peu de clarté. Ce document met en évidence toute une série de problèmes potentiels et de préoccupations urgentes dont nous devons tous tenir compte au moment d'adopter les nouvelles technologies d'IA et de nous y adapter.
Nous vous suggérons – pour l'instant – de vous concentrer sur ces trois mesures que les organisations peuvent mettre en œuvre pour aborder la révolution de l'IA de manière responsable.
1. Prenez au sérieux la protection des données personnelles
Le problème : contrairement à d'autres pays, les États-Unis ne disposent pas d'une loi nationale globale protégeant la confidentialité des données.
Ce que prévoit le décret présidentiel : Le nouveau décret de M. Biden invite le Congrès à adopter une législation sur la protection des données et à promouvoir les technologies préservant la vie privée.
«Ce décret pourrait aider les dirigeants d’entreprise et les membres des conseils d’administration à prendre le temps de réfléchir avant de se lancer à fond dans l’IA. »Safia Kazi, responsable des pratiques professionnelles en matière de protection de la vie privée, ISACA
« Il est essentiel de prendre en compte la protection de la vie privée lors du développement et de l’utilisation d’outils d’IA, mais certaines entreprises négligent cet aspect dans les débats sur les technologies émergentes », déclare M. Kazi, dans une interview exclusive accordée à « Focal Point » d’ . « Il peut être trop facile pour les entreprises de se livrer à des pratiques prédatrices en matière de traitement des données en raison de l’absence de législation relative à la protection de la vie privée », explique-t-elle.
Ce que les responsables d'entreprise et de la sécurité peuvent faire dès maintenant : Écoutez les experts en protection de la vie privée. Il est plus important que jamais de disposer d'un personnel qualifié en matière de sécurité de l'information et de protection des données.
« Les professionnels de la protection de la vie privée qui ont du mal à faire comprendre l’importance de la protection de la vie privée à leurs dirigeants peuvent s’appuyer sur ce décret pour montrer que la protection des données est une priorité nationale (et internationale) », explique M. Kazi.
2. Embauchez, ne licenciez pas (du moins pour l'instant)
Le problème : La suppression d'emplois, qui reste un sujet très controversé.
« J’ai récemment eu des nouvelles d’un professeur d’ingénierie qui a participé au développement du logiciel GPT4 lui-même », se souvient Larry Godec, ancien directeur des systèmes d’information (DSI) chez First American Financial et conseiller de confiance en matière d’IA auprès de certaines des plus grandes entreprises mondiales. « Il a affirmé que cela ne remplacerait pas les emplois, mais qu’il s’agirait simplement d’améliorer les capacités humaines. »
«Au cours des une ou deux prochaines années, nous assisterons probablement à une véritable révolution [de l’IA], sans précédent depuis l’avènement d’Internet. »Larry Godec, conseiller de confiance en intelligence artificielle et ancien directeur des systèmes d'information chez First American Financial
M. Godec n'est pas d'accord. Dans une interview exclusive accordée à à Tanium, une entreprise de premier plan spécialisée dans la cybersécurité et la transformation des entreprises (propriétaire de ce magazine), M. Godec a expliqué que la mise en œuvre de l'IA entraînera inévitablement des suppressions d'emplois et bouleversera certains secteurs d'activité.
« Au cours des une ou deux prochaines années, nous devrions assister à une véritable révolution, comme on n’en a pas vu depuis les débuts d’Internet », déclare-t-il. « On s'attend à ce que ce soit aussi important, voire plus important, qu'Internet. » « Des personnes perdront leur emploi et devront trouver – très rapidement – d’autres emplois ou d’autres parcours professionnels. »
Il reste à voir à quel point cette transition sera douloureuse. Une chose est sûre : Les licenciements constituent une menace pour la cybersécurité et peuvent entraîner une augmentation des risques liés aux initiés.
Ce que prévoit le décret présidentiel : Ce décret vise à élaborer un ensemble de bonnes pratiques afin d’« atténuer les effets néfastes et de maximiser les avantages de l’IA », ainsi qu’à produire un rapport sur les répercussions attendues de l’IA sur le marché du travail, en identifiant les moyens par lesquels le gouvernement peut soutenir les travailleurs confrontés à des perturbations sur le marché du travail.
Ce que les responsables d'entreprise et de sécurité peuvent faire dès maintenant : Privilégiez le recrutement de nouveaux professionnels de la sécurité possédant une expérience en IA (et formez ceux dont vous disposez déjà), afin de pouvoir mettre en œuvre des stratégies d'IA rentables, précises et sûres.
Ce n'est pas le moment de rationaliser ou de réduire les effectifs de votre équipe de sécurité.
« Vous devrez déterminer comment exploiter toutes ces données hétérogènes dont vous disposez et voir s’il est possible de développer un modèle [de langage à grande échelle] pour y faire face », explique M. Godec. « De plus, les entreprises et leurs collaborateurs devront acquérir davantage de compétences en matière d’enseignement ou de guidage des modèles. »
3. Vérifiez si vos outils d'IA présentent des biais.
Le problème : La qualité des outils d'IA dépend entièrement des données sur lesquelles ils sont entraînés, et lorsque des personnes ayant des préjugés (c'est-à-dire nous tous) conçoivent ces outils et fournissent ces données, ceux-ci reproduisent et aggravent, sans le vouloir, la discrimination, les préjugés et d'autres inégalités.
Ce que prévoit le décret : S'appuyant sur les stratégies présentées dans le document « Blueprint for an AI Bill of Rights » (Plan d'action pour une charte des droits en matière d'IA) publié par l'administration Biden , ainsi que sur un précédent décret en date du , qui enjoignait aux agences de lutter contre la discrimination algorithmique, ce nouveau décret demande aux agences fédérales de s'attaquer aux biais de l'IA par le biais de formations et d'une assistance technique, ainsi qu'en poursuivant les violations des droits civils liées à l'IA. (Ils ont déjà pris cette dernière question très au sérieux.) (Voir ci-dessous.)
Ce que les responsables d'entreprise et de sécurité peuvent faire dès maintenant : Testez, testez encore et testez toujours vos outils et modèles d'IA. « Il sera clairement nécessaire de faire preuve de plus de rigueur en ce qui concerne, par exemple, les protocoles de sécurité auxquels tout code doit se conformer, [et] l’IA devra disposer de ses propres contrôles qualité », déclare M. Godec.
Les chefs d'entreprise qui se précipitent pour mettre en œuvre l'IA sans en comprendre (ni en tester) les failles en paieront le prix. Les agences fédérales ont clairement indiqué que les entreprises de l' e peuvent être tenues pour responsables des préjudices discriminatoires et autres causés par les outils d'IA qu'elles déploient, même si elles n'ont pas développé ces outils. Un exemple concret : iTutorGroup, qui a réglé en août un litige intenté par la Commission pour l'égalité des chances en matière d'emploi (EEOC) au nom de plus de 200 candidats à un emploi. Tout en niant toute faute, le consortium de soutien scolaire a accepté de verser 365 000 dollars pour régler les accusations selon lesquelles son outil de sélection des candidats, basé sur l'intelligence artificielle, rejetait automatiquement les candidates âgées de plus de 55 ans et les candidats masculins âgés de plus de 60 ans. Il s'agit de la première action en justice intentée par la commission pour discrimination liée à l'IA, et il semble que ce ne sera pas la dernière.
« Les salariés victimes de discrimination résultant de l'utilisation de technologies par leur employeur peuvent compter sur l'EEOC pour obtenir réparation », a déclaré Charlotte A. Burrows, présidente de l'EEOC, dans un communiqué de presse.
Disposer d’un personnel informatique et de sécurité formé à l’IA – c’est-à-dire capable de réaliser divers tests sur les outils d’IA ainsi que des audits de biais (une obligation désormais imposée par la loi « » aux employeurs de la ville de New York depuis cet été) – permettra de protéger les organisations contre des poursuites judiciaires similaires telles que celles de l’affaire « » et contre des catastrophes en matière de relations publiques. Ce qui signifie que, quel que soit le montant que vous finirez par verser à ces personnes formées à l'IA, ce sera de l'argent bien dépensé.
