Imaginez que vous soyez en train de recruter : vous avez publié les offres d'emploi et commencé à présélectionner les candidats à l'aide de l'IA, mais vous avez remarqué un manque de diversité au sein du vivier de candidats. Vous vous demandez pourquoi ? , responsable de l'IA chez , peut vous le confirmer : il y a de fortes chances que l'IA soit biaisée.
Des exemples d'IA biaisée apparaissent depuis des années, comme cet outil de recrutement développé par Amazon puis abandonné en 2018 après qu'il s'est avéré discriminatoire envers les femmes. L'outil de sélection des CV d'une autre entreprise avait un faible pour le prénom « Jared » et pour les joueurs de lacrosse au lycée, deux facteurs aléatoires qu'il considérait comme révélateurs des performances professionnelles. Dans l'article « » (Un autre cas récent de partialité de l'IA), des chercheurs en informatique ont demandé à ChatGPT de rédiger des lettres de recommandation pour des employés hypothétiques. L'IA a décrit les candidats masculins comme « respectueux », « dignes de confiance » et « authentiques », et les candidates féminines comme « éblouissantes », « chaleureuses » et « émotionnelles ».
À l’heure où 70 % des entreprises déclarent utiliser des outils automatisés et basés sur l’IA pour leurs processus de recrutement, il est essentiel que les équipes chargées de l’IA soient en mesure de identifier et corriger les biais – non seulement les biais liés au genre, mais aussi tous les autres types de biais – dans leurs outils et algorithmes d’IA, afin de protéger non seulement la réputation de l’entreprise, mais aussi ses résultats financiers. La diversité au sein des équipes joue un rôle essentiel à cet égard, et de plus en plus d'entreprises reconnaissent la valeur des femmes occupant des postes de direction dans le domaine de l'IA.
Une récente enquête menée par IBM intitulée « » ( ) a révélé que 33 % des entreprises comptent une femme à la tête de la prise de décision en matière de stratégie d'IA. Pourtant, plus de la moitié (56 %) des dirigeants d’entreprise et des cadres intermédiaires indiquent qu’il « n’y a pas assez de femmes pour mener le débat sur l’ e de l’IA générative », et 73 % des dirigeants d’entreprise soulignent que la présence de femmes à des postes de direction dans le domaine de l’IA est essentielle pour réduire les préjugés liés au genre.
« Nous devons réduire le déficit et [veiller à ce que] plus d’une femme qualifiée prenne part aux discussions », souligne Janet George, vice-présidente en charge du groupe Centres de données et IA chez Intel Corporation. « Il n’y en a souvent qu’un seul. »
Cette année a été difficile pour les femmes dans le domaine de l'IA. En mars, l'UNESCO a publié une étude intitulée « Generative AI : » ( ), qui met en évidence des préjugés de genre et des stéréotypes raciaux dans les grands modèles linguistiques (LLM). En avril, l'association à but non lucratif « Women Who Code » , créée il y a 13 ans, a fermé le site. En mai, la question de la réglementation de l'IA en matière de protection de l'identité a fait l'objet d'un examen minutieux lorsque Scarlett Johansson a affirmé qu'OpenAI avait utilisé sa voix sans son consentement pour son ChatGPT « Sky ». Malgré ces défis, de nouvelles opportunités se profilent à l'horizon pour les entreprises spécialisées dans l'IA dirigées par des femmes. Google et The Female Foundry offrent l'accès à l'incubateur « Visionaries AI » de l' , accessible via le lien , à certaines entreprises fondées par des femmes.
Alors que l’essor de l’IA met en évidence un besoin crucial de diversité des modes de pensée et des points de vue au sein des équipes de direction, Focal Point s’est tourné vers trois femmes occupant le poste de directrice de l’IA afin de recueillir leur point de vue sur les obstacles et les perspectives qui s’offrent à elles. Ils ont évoqué l’importance de l’ , de la lutte contre les préjugés, de la prise en compte d’une plus grande diversité de points de vue et de l’amélioration des résultats financiers de l’entreprise, autant d’éléments qui, comme ils l’ont souligné, sont tous liés.
La diversité au service des résultats financiers
Certains secteurs et certaines entreprises ont connu un retour de bâton face à leurs initiatives en faveur de la diversité, mais les arguments économiques sont clairs : selon le rapport « 2023 » de McKinsey , intitulé « : Diversity Matters Even More », les entreprises « se situant dans le quartile supérieur en matière de représentation ethnique » ont 39 % de chances supplémentaires d’enregistrer des performances supérieures à la moyenne.
«Nous devons [veiller à ce que] plus d’une femme qualifiée siège à la table. » Il n'y en a souvent qu'un seul. »Janet George, vice-présidente en charge du groupe Centres de données et IA chez Intel Corporation
Katia Walsh estime que cela vaut tout particulièrement pour le leadership. « Le monde doit changer… les opportunités offertes aux groupes sous-représentés aux postes de direction doivent évoluer », fait remarquer M. Walsh, directeur du numérique à la Harvard Business School et ancien directeur de l'intelligence artificielle chez Levi Strauss & Co. et au sein du groupe Vodafone. Cette tâche « monumentale », souligne-t-elle, exige que les dirigeants de tous les secteurs s'efforcent de promouvoir une plus grande diversité. « Nous disposons des données, mais nous devons en tirer les conséquences », déclare-t-elle. « Plus l'équipe de direction est diversifiée, meilleures seront les décisions stratégiques, qui refléteront ainsi davantage la réalité. »
Chez Michelin, le géant français de la fabrication de pneumatiques, Ambica Rajagopal, directrice des données et de l'intelligence artificielle du groupe, cite l'intelligence collective comme un facteur clé de la performance d'une équipe, soulignant que l'équité et la diversité sous toutes leurs formes ( , origine, type de personnalité, genre, etc.) revêtent toutes la même importance. M. Rajagopal est chargé de constituer des équipes spécialisées dans les technologies d'intelligence artificielle et d'identifier les cas d'utilisation de l'IA susceptibles d'apporter de la valeur à l'entreprise. Au-delà des simples pneus, Michelin développe des technologies basées sur l'intelligence artificielle pour toute une gamme de « solutions de mobilité », allant des micropuces capables de prédire l'usure des pneus aux outils de prédiction des goûts culturels, afin de rendre ses guides hôteliers et gastronomiques « » de renommée mondiale encore plus personnalisés et adaptables.
« Lorsque vous envisagez de mettre au point des solutions centrées sur le client qui témoignent d’une véritable empathie envers la clientèle, le fait que l’équipe soit le reflet de la société dans son ensemble contribue également à y parvenir », explique Rajagopal.
Donner la parole aux groupes sous-représentés
Les dirigeants d'entreprise visionnaires peuvent prendre un certain nombre de mesures pour donner davantage la parole aux groupes sous-représentés, ce qui peut contribuer à garantir un déploiement de l'IA moins biaisé. Une option controversée qui, selon beaucoup, portera ses fruits : l'adoption de réglementations visant à encourager la diversité au sein des postes de direction de votre entreprise. Par exemple, la règle d'admission à la cote du Nasdaq impose aux entreprises de disposer d'un nombre minimum d'administrateurs issus de la diversité. Cette décision n’a pas été facilement acceptée, et les experts estiment que la loi sera annulée par une cour d’appel qui, , a entendu les plaidoiries en mai.
«Nous disposons des données, mais nous devons en tirer les conséquences. » « Plus l'équipe de direction est diversifiée, meilleures seront les décisions stratégiques. »Katia Walsh, directrice du numérique à la Harvard Business School et ancienne directrice de l'intelligence artificielle chez Levi Strauss & Co.
Pourtant, des experts comme George, d'Intel, estiment que les entreprises devraient commencer à respecter cette règle, qu'elle reste ou non en vigueur. « Nous devons défendre les lois », déclare-t-elle. « Nous avons besoin d'étapes décisives en matière de diversité au sein de la direction. » « Lorsqu’une loi est en vigueur, les gens la respectent. » George recommande à chaque équipe de direction d'examiner sa propre composition et de se poser la question suivante : la composition de notre équipe de direction est-elle 50-50 [hommes-femmes] ? « L'équité commence au sommet de la hiérarchie », déclare George.
Une autre façon de faire entendre davantage de voix consiste à passer en revue les obstacles présents dans les descriptions de poste afin de vous assurer que vous n'entravez pas les candidats. Lorsqu'elle a constitué son équipe, Mme Walsh a supprimé l'exigence relative au niveau d'études.
« Évaluez vraiment [les descriptions de poste] avec objectivité », conseille Walsh. « Dans certains cas, vous pouvez utiliser l'IA générative dans les descriptions de poste et signaler certaines exigences qui constituent un obstacle. »
La mise en place de programmes visant à encourager les personnes issues de groupes sous-représentés à intégrer ce secteur peut également s'avérer utile. L'ancien employeur de M. Walsh a mis en place un programme de reconversion professionnelle, une formation intensive de huit semaines consacrée à l' t à l'apprentissage automatique. Le programme comportait un processus de sélection visant à évaluer les compétences des candidats en matière de résolution de problèmes, leur esprit d'analyse et leur persévérance – des qualités indispensables pour participer au programme –, mais n'exigeait pas de connaissances préalables en programmation.
« Il s’agit de donner aux gens la possibilité [d’apprendre], et vous constatez alors les résultats sur le plan commercial », explique M. Walsh. « Certains ont changé d'emploi, mais la plupart des personnes que nous avons formées ont repris leurs anciennes fonctions et, au lieu d'utiliser Excel, elles ont pu automatiser leurs tâches à l'aide de code Python. » « Désormais, ils possèdent les compétences techniques nécessaires, ont modernisé leurs fonctions et ont obtenu de meilleurs résultats pour l'entreprise. »
Vous souhaitez devenir directeur de l'IA ? Commencez par trouver un mentor
Alors que les dirigeants d'entreprise étudient ces approches systémiques visant à améliorer la diversité dans le domaine de l'IA, ceux qui souhaitent gravir les échelons dans ce secteur peuvent eux aussi apporter leur contribution. Le mentorat entre pairs peut vous aider à consolider votre position dans le domaine de l'IA. Rajagopal vous encourage à entrer en contact avec des professionnels du secteur qui partagent vos centres d'intérêt spécifiques.
«Identifiez les aspects de l’IA qui comptent vraiment pour vous, et trouvez, au sein de la communauté, lors de conférences ou sur LinkedIn, les personnes qui partagent vos préoccupations. »Ambica Rajagopal, directrice des données et de l'intelligence artificielle du groupe Michelin
« Identifiez les aspects de l’IA qui comptent vraiment pour vous, et trouvez, au sein de la communauté, lors de conférences ou sur LinkedIn, les personnes qui partagent vos préoccupations et votre façon de penser », explique Rajagopal. « Pour moi, il s’agissait à la fois de l’impact de l’IA sur les personnes, tant du point de vue éthique que de la gestion du changement, et des aspects techniques approfondis, ainsi que des personnes dotées de compétences techniques exceptionnelles en matière d’IA. »
Elle souligne également la prévalence de l’effet « pipeline qui fuit », qui touche les femmes dans le secteur des technologies . « À mi-parcours de leur carrière, on constate que le pourcentage de femmes diminue… Pour attirer les femmes vers l’IA, il s’agit de mettre en avant des modèles et de parler de nos expériences et de notre parcours. »
Comment les responsables de l'IA réduisent les biais
En matière de mise en œuvre de l'IA, la diversité des données, celle des équipes et celle des outils sont autant d'éléments essentiels pour limiter les biais.
Il devrait incomber à chacun d'être attentif aux biais potentiels présents dans les données existantes, par exemple, depuis les dirigeants qui approuvent la mise en œuvre de l'IA et en assument la responsabilité finale jusqu'aux collaborateurs des différents services qui travaillent avec ces algorithmes. Lorsque chacun a le sentiment de faire partie de l'équipe de cybersécurité, les chances de détecter les préjugés sont plus grandes. Ne pas le faire peut vous coûter cher. En août dernier, l'EEOC a conclu un accord à l'amiable dans le cadre de sa première action en justice pour discrimination liée à l'IA , dans l'affaire « », au cours de laquelle un consortium de soutien scolaire a accepté de verser 365 000 dollars après que son outil de recrutement basé sur l'IA eut automatiquement rejeté les candidates ayant obtenu un score supérieur à 55 et les candidats masculins ayant obtenu un score supérieur à 60.
Le choix d'outils adaptés peut également contribuer à réduire les biais. M. Walsh recommande d'utiliser des outils qui intègrent des données représentatives. « Je privilégie les outils open source car, par définition, ils sont développés par des personnes du monde entier, issues de milieux, de formations et de régions différentes, ce qui offre davantage de possibilités [en matière de diversité] », explique-t-elle. « Il ne s’agit pas d’éliminer [ces voix] ; il s’agit d’optimiser les chances de réduire les biais. »
M. Rajagopal souligne l'importance de mettre en place des lignes directrices relatives à l'IA à l'échelle de l'entreprise, et apprécie les outils qui sensibilisent les data scientists aux biais potentiels. Son équipe étudie actuellement les solutions proposées par des entreprises telles que Holistic AI et Fiddler AI, qui offrent des outils permettant la surveillance des modèles d'apprentissage automatique et des modèles de langage à grande échelle (LLM), ainsi que des mesures de protection en matière d'IA. Par exemple, Fiddler permet aux utilisateurs d'évaluer les inégalités intersectionnelles en analysant les indicateurs du jeu de données « ».
« L'objectif est de refléter toute la diversité de l'expérience et des points de vue humains, l'IA étant “un miroir que nous tendons à la vie” », explique M. Walsh. « Le miroir reflète ce qui est là. » « Tant que nous n’aurons pas changé ce qui s’y trouve, le miroir continuera de refléter un monde très imparfait. »
POUR EN SAVOIR PLUS
Si vous souhaitez élargir votre réseau et approfondir vos connaissances, voici quelques ressources à prendre en considération :
- Sommet des responsables de l’IA (CAIO) – Le deuxième sommet annuel des responsables de l’IA (CAIO) organisé par le CDO Club se tiendra 2 octobre (le lendemain de son sommet des responsables de la transformation numérique (CDAO) ) à Washington, D.C. Parmi les intervenants figureront notamment Brian Peretti, CAIO adjoint du département du Trésor américain ; Angela Cough, conseillère principale en matière de talents numériques au sein du Bureau du responsable du numérique et de l’intelligence artificielle du département de la Défense ; ainsi que les responsables de l’intelligence artificielle d’Avanade, de Fox Rothschild et du département américain du Logement et du Développement urbain, entre autres.
- Carte des talents des responsables de l'IA (CAIO) – Ce rapport, le premier du genre, a été élaboré par le CDO Club et présente des données clés sur les responsables de l'IA : profil démographique, rémunération, région, parcours professionnel, structures hiérarchiques et offres d'emploi à pourvoir pour ce poste. Sortie prévue mi-juillet.
