Ces derniers temps, la vie n'a pas été tendre avec le géant des réseaux sociaux TikTok. Tout d'abord, le Congrès a interrogé sur ses pratiques en matière de protection de la vie privée. Par la suite, l'autorité britannique de protection des données ( ) a infligé une amende de £12,7 millions (environ 15,8 millions de dollars) à pour avoir utilisé les données personnelles d'enfants sans le consentement de leurs parents. La liste publiée par l' des gouvernements — notamment ceux des États-Unis, de l'Union européenne, du Canada, de la Nouvelle-Zélande et de l'Australie — qui interdisent son utilisation par leurs fonctionnaires ne cesse de s'allonger. Aux États-Unis, les utilisateurs favorables à l'interdiction de TikTok sont 2-to-1 fois plus nombreux que ceux qui s'y opposent.
TikTok n'est pas le seul. Le secteur technologique fait l'objet d'une attention sans précédent. Et la haine envers les géants de la technologie est sans doute le seul point sur lequel républicains et démocrates parviennent à s'entendre ces derniers temps. « Il est temps de passer à la loi 2023 », a déclaré la sénatrice Amy Klobuchar (D-MN) sur NBC News, alors qu'elle évoquait les récentes initiatives législatives bipartites visant à encadrer les géants de la technologie. « Prenons la résolution d’adopter enfin l’un de ces projets de loi. »
En un mot, tout est une question de confiance. Pour les entreprises du secteur des technologies, cette ressource est rare. Le récupérer est désormais d'une importance capitale.
Le problème : la confiance repose sur une prise de conscience éthique, et la plupart des entreprises — qu’elles soient du secteur technologique ou non — ne disposent pas d’un cadre éthique lié à la technologie, selon le premier rapport de Deloitte intitulé « État de l’éthique et de la confiance dans la technologie » ( ), publié en décembre.
Cette enquête a été menée auprès de près de 1 800 professionnels issus de huit secteurs (notamment la technologie, les services financiers, la santé, et le secteur public) sur les approches éthiques relatives aux technologies émergentes telles que les véhicules autonomes, l'informatique quantique, ainsi que la réalité augmentée ou la réalité virtuelle. L'étude a révélé que 87 % des personnes interrogées ignoraient ou n'avaient pas connaissance des principes éthiques régissant le développement et l'utilisation des technologies émergentes au sein de leur organisation.
Si ce constat s'applique à l'ensemble des entreprises, il revêt une importance capitale pour les entreprises du secteur des technologies, qui font aujourd'hui l'objet d'une surveillance accrue dans un contexte économique difficile.
« La confiance est la nouvelle monnaie dans un environnement de plus en plus concurrentiel », affirme Rozita Dara, maître de conférences en informatique à l'université de Guelph, en Ontario (Canada). « La confiance confère aux organisations un avantage concurrentiel », déclare-t-elle.
L'heure est venue de mettre en place des cadres éthiques
Les lacunes en matière d'éthique se manifestent de différentes manières. TikTok s'est illustré par son utilisation présumée abusive des données et par le caractère addictif de l'application, qui, selon ses détracteurs, risque de piéger les utilisateurs. Une étude menée par l' , à l'université de Harvard ( ), a mis en évidence des biais raciaux dans la technologie de reconnaissance faciale développée par IBM et Microsoft. Des observateurs ont par ailleurs mis en évidence des préjugés liés au genre dans Google Translate ainsi que dans un système de recrutement d'Amazon basé sur l'IA (que l'entreprise a finalement abandonné).
«La confiance confère aux organisations un avantage concurrentiel. »Rozita Dara, maître de conférences en informatique à l'université de Guelph
La confiance accordée à une entreprise dépend de son engagement en faveur d'une utilisation éthique de la technologie. Et cela vaut d'autant plus pour les entreprises qui créent cette technologie.
« Nous créons des attentes quant à ce que sera cette technologie et à ce qu’elle permettra de faire », explique Yasemin J. Erden, maître de conférences à l’Institut de la société numérique de l’université de Twente, à Enschede, aux Pays-Bas. Lorsqu’il s’agit de promouvoir cette technologie auprès des utilisateurs, il existe un risque que le fabricant ou le fournisseur n’en saisisse pas pleinement toutes les implications. « Tout cela a une incidence sur la confiance que les gens accordent à la technologie. »
Nous assistons actuellement à ce phénomène dans le domaine des technologies cognitives (IA). En mars, plus de 1 100 informaticiens et autres personnalités éminentes du secteur des technologies, dont Elon Musk, ont signé une lettre ouverte publiée sur () demandant à tous les laboratoires de suspendre leurs travaux sur tout modèle d'apprentissage plus puissant que le GPT-4, un modèle linguistique à grande échelle développé par la société de recherche OpenAI et qui alimente son service controversé ChatGPT.
M. Erden hésite à aborder les détails de la dernière version de GPT, car ses développeurs n'ont pas fait preuve d'une transparence suffisante. « Nous ne savons pas exactement comment elle parvient à faire ce qu’elle fait », prévient-elle, faisant écho aux critiques formulées par d’autres experts en IA. « Comment pouvons-nous donc réellement évaluer les affirmations qui sont formulées à ce sujet ? » (Le fait que ce chatbot, encore mal compris, ait été rapidement détourné par des cybercriminels pour créer des logiciels malveillants et d’autres contenus dangereux n’arrange pas non plus les choses.)
Les meilleures pratiques des géants de la technologie
Des normes et des politiques régissant le secteur des technologies vont voir le jour, cela ne fait aucun doute. Mais en attendant leur entrée en vigueur, il est essentiel que les entreprises du secteur des technologies adoptent leur propre ensemble de principes éthiques, qui pourront être utilisés tant en interne (pour orienter le développement de nouvelles technologies fiables) qu’en externe (pour gagner la confiance des consommateurs).
«[Mozilla est] vraiment transparente : elle expose clairement ses objectifs, ses limites, ses actions et les changements qu’elle apporte. »Yasemin J. Erden, maître de conférences à l'Institut de la société numérique de l'université de Twente
Le rapport de Deloitte constitue une bonne introduction au sujet. Il recommande aux dirigeants de l'entreprise de rencontrer les équipes qui réalisent concrètement le travail. Et pour lancer la discussion, il propose un cadre en sept parties destiné à aider à évaluer la « santé éthique » des produits et services d’une entreprise technologique. Selon le cadre éthique de Deloitte en matière de confiance dans les technologies, toute nouvelle technologie mise en œuvre par une entreprise technologique devrait :
- Transparence : Les utilisateurs doivent comprendre et pouvoir vérifier comment cette technologie contribue à la prise de décision.
- Sécurité et protection : Les utilisateurs doivent être protégés contre tout préjudice et leurs données ne doivent pas être utilisées ou conservées au-delà de la finalité déclarée et prévue, ni sans l'accord explicite de l'utilisateur.
- Privé : La technologie doit respecter la vie privée des utilisateurs .
- Responsable : La technologie doit être durable, respectueuse de l'être humain et servir l'intérêt général et social.
- Robuste et fiable : Cette technologie doit fournir des résultats précis et cohérents.
- Responsabilité : Il doit être clairement établi qui est responsable de l'utilisation de cette technologie.
- Équitable et impartiale : La technologie doit être conçue de manière à traiter chacun de manière équitable.
Définir ces principes ne représente qu'une partie du défi. « L'autre consiste à les mettre en œuvre », souligne Brian Green, directeur du département d'éthique technologique au Markkula Center for Applied Ethics de l'université de Santa Clara. « Comment faites-vous concrètement pour mettre cela en œuvre au sein d'une entreprise lorsque vous créez de nouveaux produits ? » demande-t-il.
Le Markkula Center propose une boîte à outils destinée aux ingénieurs et aux concepteurs techniques afin de les aider à mener à bien ce processus. Elle publiera prochainement un guide sur la mise en œuvre de l'éthique des technologies.
Dara considère « l'éthique dès la conception » comme une bonne pratique fondamentale. Elle intègre dès le départ les principes éthiques dans le développement d'un produit ou d'un service, en tenant compte de l'ensemble de son écosystème, y compris les droits et les intérêts des utilisateurs. C'est un peu comme si l'on ajoutait « Eth » à l'équipe DevSecOps d' . Les développeurs doivent tenir compte des aspects éthiques lorsqu'ils testent les fonctionnalités d'un outil, en évaluant sa fiabilité et son applicabilité.
Qui a raison ?
Comme le souligne le rapport de Deloitte, l'application de certains principes éthiques peut varier selon les technologies. L'IA présente des implications, des utilisateurs et des caractéristiques techniques différentes de celles, par exemple, de l'informatique quantique, de l' de la blockchain ou de la réalité virtuelle.
Les spécialistes de l'éthique devraient examiner en détail les spécificités en fonction des paramètres propres à chaque entreprise, ce qui soulève la question suivante : parmi les entreprises qui explorent ce nouveau paysage éthique, y en a-t-il qui s'y prennent correctement ?
Erden cite Mozilla, l'éditeur de logiciels basé en Californie, qui est à la fois une fondation et une société.
« Ils font vraiment preuve de transparence : ils indiquent clairement quels sont leurs objectifs, quelles sont leurs limites, ce qu’ils font et ce qu’ils changent », explique-t-elle. « Je pense que leurs plateformes, comme Firefox, et leurs ambitions suscitent beaucoup de respect. »
Mozilla investit également massivement dans l'engagement, souligne Erden. Elle a démontré son engagement en faveur d'une technologie éthique dans son manifeste « » (), à travers des initiatives telles que son « Responsible Computing Challenge » (), son support pédagogique « » ( ) consacré à la gestion des enjeux éthiques dans le secteur des technologies, et désormais son «Responsible AI Challenge » (). Ce ne sont là que quelques exemples parmi tant d'autres.
M. Green a co-rédigé une étude de cas intitulée « » (Les entreprises et la responsabilité sociale) publiée par le Forum économique mondial , qui traite de l'éthique chez IBM, et cite « Big Blue » comme un leader dans ce domaine. L'entreprise a mis en place un comité d'éthique de l'IA en 2018, a publié ses propres principes en matière de confiance et de transparence, et les a étayés par cinq piliers de confiance, prônant des valeurs telles que le respect de la vie privée et l'équité. Elle a également fait don d'outils à la communauté open source afin de contribuer à la « robustesse face aux attaques adversaires », c'est-à-dire à la protection de l'IA contre toute utilisation abusive par des attaquants.
Il a rédigé une analyse similaire sur concernant Salesforce, qui a mis en place en 2018 son « Bureau pour une utilisation éthique et humaine de la technologie », ainsi qu’une autre analyse sur Microsoft.
Bien sûr, aucune entreprise n'est parfaite, c'est pourquoi de nombreux experts dans le domaine délicat de l'éthique s'efforcent d'éviter de donner leur aval sans réserve.
« Tout ce que nous pouvons faire, c’est évaluer les pratiques, les technologies et les étapes au cas par cas », conclut Erden. Il s'agit d'un processus itératif qui évalue les actions en fonction de leur bien-fondé éthique et qui, en théorie, devrait encourager les entreprises à ne cesser de s'améliorer, produit après produit, nouveau service technologique après nouveau service technologique. « Ça n'en finit jamais. »
