Parmi le flou des développements sur le front de l’intelligence artificielle (IA) la semaine dernière, l’ ordre exécutif général du président Joe Biden pourrait être une feuille de route cruciale, ou une accélération, pour les entreprises qui se précipitent pour tirer parti de la technologie révolutionnaire.
Publié juste avant le tout premier sommet mondial sur la sécurité de l’IA, à Londres, l’ordonnance de Biden décrit les normes de sécurité et de sûreté de l’IA, les nouvelles protections des consommateurs et des travailleurs, et les mesures de protection anti-biais à développer par les agences industrielles et fédérales. Considérez-le comme un ensemble de garde-fous pour exploiter et maximiser les avantages de l’IA tout en atténuant les risques, une avancée audacieuse (si quelque peu retardée) dans la gouvernance de l’IA aux États-Unis.
« Ce décret peut aider les chefs d’entreprise et les membres du conseil d’administration à ralentir avant de se concentrer entièrement sur l’IA », déclare Safia Kazi, directrice des pratiques professionnelles en matière de confidentialité chez ISACA, une organisation professionnelle internationale axée sur la gouvernance informatique. « Les entreprises devront réfléchir aux risques associés à l’utilisation de l’IA. »
Aller lentement ne signifie pas s’arrêter. Au contraire, le décret vise à relancer l’analyse de l’IA dans les agences fédérales, en allumant un incendie sous les institutions gouvernementales qui sont généralement en retard sur les développements de la haute technologie. Par exemple, il ordonne au Département de la santé et des services sociaux de développer un « plan stratégique » pour l’IA au cours de l’année. Cela se produira-t- il réellement ? Difficile à dire, mais c’est une poussée indispensable.
Pendant ce temps, les chefs d’entreprise qui cherchent à se démarquer de leurs concurrents ont le problème inverse : beaucoup déploient l’IA à une vitesse fulgurante, sans se rendre compte des virages en épingle à cheveux qui peuvent se produire.
ChatGPT a été lancé il y a seulement 11 mois et d’autres chatbots alimentés par l’IA générative ont rapidement suivi, suscitant un engouement des consommateurs et transformant les lieux de travail. Alors que les entreprises s’affrontent pour adopter la technologie naissante, les chefs d’entreprise succombent à la FOMO (peur de passer à côté) surpassée. Cela est particulièrement préoccupant dans des domaines tels que les soins de santé, où les médecins et les administrateurs d’hôpitaux se précipitent pour acheter des outils médicaux optimisés par l’IA, utilisés pour interpréter les tests, diagnostiquer les maladies et administrer le traitement, qui n’ont pas subi les tests répétés que le gouvernement exige généralement pour ces appareils, comme le souligne un nouveau rapport de Politico .
Les impacts du déploiement de l’IA sont difficiles à prévoir, étant donné que les entreprises créant ces produits protègent étroitement les algorithmes qui contrôlent leurs appareils, explique le rapport. Cette « boîte noire » exclusive protège la propriété intellectuelle, mais laisse les responsables commerciaux et de sécurité qui utilisent ces outils incapables de savoir à quel point ils peuvent (ou non) être sûrs ou efficaces.
C’est là que la nouvelle commande de Biden peut apporter une certaine clarté. Il décrit une série de problèmes potentiels et de préoccupations urgentes que nous devons tous prendre en compte lorsque nous adoptons et nous adaptons aux nouvelles technologies d’IA.
Nous suggérons, pour l’instant, de se concentrer sur ces trois mesures que les organisations peuvent prendre pour agir de manière responsable dans la révolution de l’IA.
1. Prenez la confidentialité des données au sérieux
Le problème : Contrairement à d’ autres pays, les États-Unis manquent d’une loi nationale complète qui protège la confidentialité des données.
Ce que dit le décret : la nouvelle ordonnance de Biden appelle le Congrès à adopter une législation sur la confidentialité des données et à promouvoir des technologies de préservation de la confidentialité.
« Ce décret peut aider les chefs d’entreprise et les membres du conseil d’administration à ralentir avant de tout mettre en œuvre sur l’IA. »Safia Kazi, directrice des pratiques professionnelles en matière de protection de la vie privée, ISACA
« Il est essentiel de tenir compte de la confidentialité lors du développement et de l’exploitation d’outils d’IA, mais certaines entreprises négligent la confidentialité dans les conversations sur les technologies émergentes », déclare Kazi, dans un entretien exclusif avec Focal Point. « Il peut être trop facile pour les entreprises de s’engager dans des pratiques prédatrices de traitement des données en raison de l’absence de lois relatives à la confidentialité », déclare-t-elle.
Ce que les chefs d’entreprise et de sécurité peuvent faire maintenant : écouter les professionnels de la protection de la vie privée. Une main-d’œuvre qualifiée en matière de sécurité de l’information et de confidentialité des données est plus importante que jamais.
« Les professionnels de la confidentialité qui ont du mal à transmettre l’importance de la confidentialité à leurs dirigeants peuvent utiliser ce décret pour montrer que la confidentialité des données est une priorité nationale (et internationale), » déclare Kazi.
2. Embaucher, ne pas licencier (du moins pour l’instant)
Le problème : le déplacement d’emploi, qui reste un sujet très débattu.
« J’ai récemment entendu parler d’un professeur d’ingénierie qui a participé au développement de GPT4 lui-même », se souvient Larry Godec, ancien directeur de l’information (DSI) chez First American Financial et conseiller de confiance en IA pour certaines des plus grandes entreprises du monde. « Il a soutenu qu’il ne remplacera pas les emplois, il rendra simplement les humains meilleurs. »
« Au cours des deux prochaines années, nous assisterons probablement à une véritable révolution [IA], qui n’a pas été observée depuis le début d’Internet. »Larry Godec, conseiller de confiance en IA et ancien DSI, First American Financial
Godec n’est pas d’accord. S’exprimant dans le cadre d’un entretien exclusif avec Tanium, une société de cybersécurité et de transformation des entreprises de premier plan (qui possède ce magazine), Godec a expliqué que la mise en œuvre de l’IA entraînera inévitablement le déplacement des emplois et la perturbation des industries.
« Au cours des deux prochaines années, nous assisterons probablement à une véritable révolution, qui n’a pas été observée depuis le début d’Internet », déclare-t-il. « On s’attend à ce qu’il soit aussi grand, voire plus grand, qu’Internet. Les gens perdront des emplois et devront trouver très rapidement différents emplois ou parcours professionnels. »
Le degré de douleur de cette transition n’a pas encore été observé. Une chose que nous savons : les licenciements constituent une menace pour la cybersécurité et peuvent entraîner une augmentation des risques internes.
Ce que dit le décret : l’ordonnance cherche à développer un ensemble de meilleures pratiques pour « atténuer les préjudices et maximiser les avantages de l’IA » et produire un rapport sur les impacts attendus de l’IA sur le marché du travail, identifiant les façons dont le gouvernement peut aider les travailleurs confrontés à des perturbations du travail.
Ce que les chefs d’entreprise et de sécurité peuvent faire maintenant : concentrez-vous sur l’embauche de nouveaux travailleurs de la sécurité disposant d’une expérience en IA (et formez ceux que vous avez), afin de pouvoir mettre en œuvre des stratégies d’IA rentables, précises et sûres.
Ce n’est pas le moment de rationaliser ou d’affiner votre équipe de sécurité.
« Vous devrez déterminer ce qu’il faut faire de toutes les données disparates dont vous disposez et si vous pouvez créer un modèle [en grande langue] pour gérer cela », explique Godec. « Pour augmenter cela, les entreprises et leurs employés devront acquérir plus de compétences dans l’enseignement ou l’incitation aux modèles. »
3. Testez vos outils d’IA pour détecter les préjugés.
Le problème : les outils d’IA sont aussi bons que les données sur lesquelles ils sont formés, et lorsque des personnes biaisées (et cela signifie que nous tous) concevons ces outils et fournissons ces données, les outils répliqueront et approfondiront involontairement la discrimination, les préjugés et d’autres inégalités.
Ce que dit le décret : en amplifiant les stratégies présentées dans le Plan de Biden pour une Déclaration des droits de l’IA et un décret précédent ordonnant aux agences de lutter contre la discrimination algorithmique, le nouveau décret demande aux agences fédérales de traiter les préjugés de l’IA par le biais de la formation et de l’assistance technique et en poursuivant les violations des droits civils liées à l’IA. (Ils sont déjà devenus sérieux à propos de ce dernier. Voir ci-dessous.)
Ce que les chefs d’entreprise et de sécurité peuvent faire maintenant : tester, tester et retester vos outils et modèles d’IA. « Il y aura un besoin clair de plus de rigueur lorsqu’il s’agira de choses comme les protocoles de sécurité que tout le code doit passer, [et] l’IA aura besoin de ses propres contrôles de qualité », déclare Godec.
Les chefs d’entreprise qui mettent avec enthousiasme en œuvre l’IA sans comprendre (et tester) ses failles paieront le prix. Les agences fédérales ont déclaré sans équivoque que les entreprises peuvent être tenues responsables des dommages discriminatoires et autres causés par les outils d’IA qu’elles déploient, même si elles n’ont pas développé ces outils. Cas concret : iTutorGroup, qui a réglé un procès en août intenté par la Commission pour l’égalité des chances en matière d’emploi (EEOC) au nom de plus de 200 candidats à un emploi. Tout en refusant les actes répréhensibles, le consortium de tutorat a accepté de payer 365 000 USD pour résoudre les accusations selon lesquelles son outil de sélection de recrutement alimenté par IA a automatiquement rejeté les femmes candidates de plus de 55 ans et les hommes de plus de 60 ans. Il s’agit de la première action en justice pour parti pris de la commission impliquant l’IA, et il ne semble pas que ce sera la dernière.
« Les travailleurs confrontés à la discrimination de l’utilisation de la technologie par un employeur peuvent compter sur l’EEOC pour chercher des recours », a déclaré la présidente de l’EEOC, Charlotte A. Burrows, dans un communiqué de presse.
Disposer de personnel informatique et de sécurité formé à l’IA, des personnes qui peuvent effectuer divers tests d’outils d’IA et des audits de préjugés (maintenant requis des employeurs à New York à partir de cet été), protégera les organisations contre des poursuites judiciaires similaires et des catastrophes de relations publiques. Ce qui signifie que peu importe ce que vous finissez par payer à ces personnes formées à l’IA, c’est de l’argent bien dépensé.
