Imaginez que vous vous dotez en personnel : vous avez publié les offres d’emploi et commencé à sélectionner les candidats à l’aide de l’IA, mais vous avez remarqué qu’il y a un manque de diversité dans le groupe de candidats. Vous vous demandez pourquoi ? Un directeur de l’IA peut vous dire : il y a de fortes chances que l’IA soit biaisée.
Des exemples d’IA biaisée apparaissent depuis des années, comme l’outil de recrutement développé par Amazon, puis mis au rebut en 2018 après qu’il a été découvert qu’il discriminait les femmes. L’outil de sélection des CV d’une autre entreprise avait une passion pour le nom Jared et les joueurs de crosse scolaire, deux facteurs aléatoires qu’elle a trouvés indiquant une performance professionnelle. Dans un autre cas récent de parti pris de l’IA, où les chercheurs en informatique ont demandé à ChatGPT d’écrire des lettres de recommandation pour des employés hypothétiques, elle a décrit les candidats masculins comme « respectueux », « réputés » et « authentiques », et les femmes comme « stupéfiantes », « tièdes » et « émotionnelles ».
À une époque où 70 % des entreprises déclarent utiliser des outils automatisés et optimisés par l’IA pour leurs processus de recrutement, il est essentiel que les équipes d’IA soient en mesure d’ identifier et de corriger les préjugés , non seulement les préjugés sexistes, mais tous types confondus, dans leurs outils et algorithmes d’IA pour protéger non seulement la réputation de l’entreprise, mais également ses résultats. La diversité au sein des équipes humaines joue un rôle clé dans ce domaine, et de plus en plus d’entreprises reconnaissent la valeur des femmes occupant des postes de leadership dans l’IA.
Une récente enquête d’IBM a montré que 33 % des entreprises ont une femme en charge de la prise de décision en matière de stratégie d’IA. Cependant, plus de la moitié (56 %) des dirigeants d’entreprise et des cadres de niveau intermédiaire rapportent qu’il « n’y a pas assez de femmes dirigeant la conversation sur l’ IA générative » et 73 % des chefs d’entreprise notent que le fait d’avoir des dirigeants féminins dans l’IA est essentiel pour réduire les préjugés sexistes.
« Nous devons réduire le déficit et [nous assurer que] plus d’une femme qualifiée est assise à la table », note Janet George, vice-présidente d’entreprise, centre de données et groupe d’IA chez Intel Corporation. « Il n’y en a souvent qu’un. »
Cette année a été difficile pour les femmes dans le domaine de l’IA. En mars, l’UNESCO a publié une étude sur l’IA générative révélant les préjugés sexistes et les stéréotypes raciaux dans des modèles linguistiques de grande envergure (LLM). En avril, l’association à but non lucratif de 13 ans Women Who Code a fermé. En mai, la question des réglementations sur l’IA en matière de protection de l’identité a été examinée lorsque Scarlett Johansson a allégué qu’OpenAI utilisait sa voix sans consentement pour son ChatGPT « Sky ». Malgré ces défis, de nouvelles opportunités se présentent pour les entreprises d’IA appartenant à des femmes. Google et la Fonderie féminine fournissent l’accès à un incubateur d’IA Visionnaires pour certaines entreprises fondées par des femmes.
Avec l’essor de l’IA entraînant un besoin essentiel de diversité de pensée et de perspective dans la suite exécutive, Focal Point s’est tournée vers trois femmes chefs de l’IA pour obtenir leur point de vue sur les obstacles et l’horizon qui les préoccupent. Ils ont discuté de l’importance d’ atténuer les préjugés, d’apporter plus de voix à la table et de stimuler les résultats de l’entreprise, qui, comme ils l’ont souligné, sont tous liés.
Diversité pour le résultat net
Certains secteurs et entreprises ont connu un contrecoup aux efforts de diversité, mais l’analyse de rentabilité est claire : selon le rapport 2023 de McKinsey intitulé La diversité compte encore plus, les entreprises « dans le quartile supérieur de la représentation ethnique » ont une probabilité accrue de surperformance de 39 %.
« Nous devons [s’assurer que] plus d’une femme qualifiée est assise à la table. Il n’y en a souvent qu’un. »Janet George, vice-présidente d’entreprise, Data Center and AI Group, Intel Corporation
Katia Walsh pense que cela s’applique particulièrement au leadership. « Le monde doit changer... les opportunités de leadership sous-représenté doivent changer », remarque Walsh, directeur du numérique à la Harvard Business School et ancien directeur de l’IA chez Levi Strauss & Co. et Vodafone Group. Cette tâche « monumentale », souligne-t-elle, exige que les dirigeants de tous les secteurs travaillent à une plus grande diversité. « Nous disposons des données, mais nous devons agir en conséquence », dit-elle. « Plus l’équipe de direction est diversifiée, meilleures seront les décisions commerciales, qui représenteront mieux le monde réel. »
Chez Michelin, le fabricant français de pneus, Ambica Rajagopal, directrice des données et responsable de l’IA du groupe, cite l’intelligence collective comme un catalyseur essentiel pour une équipe hautement performante, notant que l’équité et la diversité dans toutes les facettes (de fond, de type de personnalité, de sexe et au-delà) sont toutes tout aussi importantes. Rajagopal est responsable de la création d’équipes technologiques en IA et de l’identification des cas d’utilisation de l’IA pour apporter de la valeur à l’entreprise. Outre les pneus, Michelin développe des technologies alimentées par l’IA pour une variété de « solutions de mobilité », des micropuces qui peuvent prédire l’usure des pneus aux outils culturels de prévision des goûts pour rendre leurs guides d’hôtels et de restaurants Michelin de renommée mondiale plus personnalisés et personnalisables.
« Lorsque vous pensez à créer des solutions axées sur le client qui ont vraiment de l’empathie avec la clientèle, le fait d’avoir un reflet de la société au sens large dans l’équipe aide également à construire cela », déclare Rajagopal.
Soulever les voix sous-représentées
Les chefs d’entreprise avant-gardistes peuvent prendre un certain nombre d’actions pour stimuler les voix sous-représentées, ce qui peut aider à assurer un déploiement de l’IA moins biaisé. Une option controversée qui, selon beaucoup, portera ses fruits : adopter des réglementations qui encouragent la diversité dans les rôles de direction de votre entreprise. Par exemple, la règle de cotation du Nasdaq exige que les entreprises aient un nombre minimum de directeurs du conseil d’administration divers. L’arrêt n’a pas été facilement accepté, et les experts pensent que la loi sera annulée par une cour d’appel qui a entendu des arguments oraux en mai.
« Nous disposons des données, mais nous devons agir en conséquence. Plus l’équipe de direction est diversifiée, meilleures seront les décisions commerciales. »Katia Walsh, directrice numérique de la Harvard Business School et ancienne directrice de l’IA, Levi Strauss & ; Co.
Cependant, des experts comme George d’Intel pensent que les entreprises devraient commencer à suivre cette règle, qu’elle reste légale ou non. « Nous devons défendre les lois », dit-elle. « Nous avons besoin d’étapes de progrès spectaculaires dans la composition de la direction. Lorsqu’une loi est en place, les gens la suivront. » George conseille que chaque équipe de direction examine sa propre composition et demande : Notre composition de l’équipe de direction est-elle 50-50 [hommes-femmes] ? « L’équité commence au sommet de la chaîne alimentaire de leadership », déclare George.
Une autre façon d’apporter plus de voix à la table consiste à examiner les obstacles dans les descriptions de poste pour vous assurer que vous n’entravez pas les candidats. Lors de la création de son équipe, Walsh a supprimé l’exigence d’éducation.
« Évaluez vraiment [descriptions de poste] avec un œil objectif », conseille Walsh. « Dans certains cas, vous pouvez utiliser l’IA générative dans les descriptions de poste et signaler certaines exigences qui entravent. »
Avoir des programmes en place pour encourager les voix sous-représentées à entrer sur le terrain peut également être utile. L’ancien employeur de Walsh a mis en place un programme de requalification, une formation intensive de huit semaines sur l’ apprentissage automatique. Le programme disposait d’un processus de sélection pour tester les compétences de résolution de problèmes, les compétences analytiques et la persévérance, qualités nécessaires au programme, mais ne nécessitait pas d’expérience en codage.
« Il s’agit de donner aux gens la possibilité [d’apprendre] et vous voyez des résultats commerciaux », déclare Walsh. « Certaines personnes ont changé d’emploi, mais la plupart des personnes que nous avons formées sont revenues à leurs anciens rôles, et au lieu d’utiliser Excel, elles ont pu automatiser leurs tâches à l’aide du code dans Python. Ils disposent désormais des compétences techniques, ont mis à jour leurs emplois et ont obtenu de meilleurs résultats commerciaux. »
Vous cherchez à être directeur de l’IA ? Trouver d’abord un mentor
Alors que les chefs d’entreprise examinent de telles façons systémiques d’améliorer la diversité de l’IA, ceux qui cherchent à évoluer dans le monde de l’IA peuvent également jouer leur rôle. Le mentorat entre pairs peut être utile pour consolider votre niche dans le domaine de l’IA. Rajagopal encourage les professionnels du secteur qui partagent vos intérêts spécifiques.
« Comprendre les aspects de l’IA qui comptent vraiment pour vous, et trouver ces personnes dans la communauté lors de conférences et LinkedIn qui partagent vos mêmes préoccupations. »Ambica Rajagopal, directrice des données et de l’IA du groupe, Michelin
« Comprendre les aspects de l’IA qui comptent vraiment pour vous, et trouver ces personnes dans la communauté lors de conférences et LinkedIn qui partagent vos mêmes préoccupations et processus de réflexion », déclare Rajagopal. « Pour moi, c’était l’impact humain de l’IA à la fois du point de vue éthique et de la gestion du changement, et des aspects techniques profonds, des personnes qui étaient techniquement douées en IA. »
Elle note également la prévalence de l’effet « pipeline fuyant » qui affecte les femmes dans le domaine de la technologie. « En milieu de carrière, nous voyons le pourcentage de femmes baisser... Dans le cas d’amener les femmes dans l’IA, il s’agit de créer des modèles et de parler de nos expériences et de notre parcours. »
Comment les responsables de l’IA atténuent les préjugés
Lorsqu’il s’agit de mettre en œuvre l’IA, la diversité des données, la diversité des équipes et la diversité des outils sont toutes essentielles pour atténuer les préjugés.
Être attentif aux biais potentiels dans les données existantes, par exemple, doit être la responsabilité de chacun, de la direction qui approuve et est finalement responsable de la mise en œuvre de l’IA aux employés du service qui travaillent avec ces algorithmes. Lorsque tout le monde se sent membre de l’équipe de cybersécurité, les chances d’attraper les préjugés sont plus importantes. Ne pas le faire peut être coûteux. En août dernier, l’EEOC a réglé sa première action en discrimination liée à l’IA, dans laquelle un consortium de tutorat a accepté de payer 365 000 USD après que son outil d’embauche basé sur l’IA a automatiquement rejeté les candidates de plus de 55 ans et les hommes de plus de 60 ans.
Choisir les bons outils peut également aider à réduire les préjugés. Walsh recommande d’utiliser des outils qui intègrent des données représentatives. « J’ai une préférence pour les outils open source, car par définition, vous avez le monde entier qui travaille dessus, de différents horizons, études, lieux, et cela vous donne plus de chances [de diversité] », dit-elle. « Il ne s’agit pas d’éliminer [voix] ; il s’agit d’optimiser les chances d’avoir moins de préjugés. »
Rajagopal souligne l’importance d’établir des directives d’IA à l’échelle de l’entreprise et aime les outils qui éduquent les scientifiques des données sur les préjugés potentiels. Son équipe explore actuellement les options d’entreprises telles que Holistic AI et Fiddler AI, qui offrent des solutions d’outillage qui fournissent l’apprentissage automatique, la surveillance des modèles LLM et les protections de l’IA. Par exemple, Fiddler permet aux utilisateurs d’évaluer l’injustice intersectionnelle en examinant les mesures du jeu de données.
L’objectif est de refléter l’éventail d’expériences et de perspectives humaines, l’IA étant « un miroir que nous gardons dans la vie », déclare Walsh. « Le miroir reflète ce qui existe. Jusqu’à ce que nous changions ce qui existe, le miroir continuera de refléter un monde très imparfait. »
POUR EN SAVOIR PLUS
Pour ceux qui cherchent à développer leur réseau et leurs connaissances, considérez ces ressources :
- Sommet des directeurs de l’IA – Le deuxième sommet annuel du CAIO du CDO Club se tiendra 2 octobre (un jour après son sommet CDAO) à Washington, D.C. Les conférenciers incluront le adjoint du CAIO du Département du Trésor américain, Brian Peretti, conseiller principal en talents numériques au Bureau en chef de l’intelligence numérique et artificielle du DoD, Angela Cough, et les directeurs de l’IA d’Avanade, Fox Rothschild et le Département américain du logement et du développement urbain, entre autres.
- Carte des talents du directeur de l’IA (CAIO) : le premier rapport du genre produit par le CDO Club couvrant les données démographiques clés du directeur de l’IA, la rémunération, la région, le parcours professionnel, les structures de reporting et les emplois ouverts du CAIO. Dû mi-juillet.
