La vie n’a pas été gentille avec le géant des réseaux sociaux TikTok récemment. Tout d’abord, le Congrès l’a griller sur ses pratiques de confidentialité. Ensuite, le gouvernement britannique lui a condamné à une amende de £12,7 millions (environ 15,8 millions USD) pour avoir utilisé les données personnelles des enfants sans le consentement parental. La liste des gouvernements, y compris les États-Unis, l’UE, le Canada, la Nouvelle-Zélande et l’Australie, qui interdisent son utilisation par les employés continue de croître. Et aux États-Unis, les utilisateurs prenant en charge une interdiction TikTok dépassent ceux qui ne le font pas d’ici 2-to-1.
TikTok n’est pas seul. Le secteur technologique connaît un niveau record. Et la haine sur Big Tech est sans doute la seule chose que les Républicains et les Démocrates peuvent convenir de nos jours. « Il est temps de 2023 », a déclaré le sénateur Amy Klobuchar (D-MN) sur NBC News, lors de la discussion des récents efforts législatifs bipartites visant à maîtriser Big Tech. « Que notre résolution soit que nous passions finalement l’une de ces factures. »
En un mot, il s’agit de confiance. Pour les entreprises technologiques, cette ressource est en pénurie. Sa récupération est désormais essentielle à la mission.
Le problème : la confiance nécessite une sensibilisation éthique, et la plupart des entreprises, aussi bien technologiques que non technologiques, manquent d’un cadre éthique lié à la technologie, selon le rapport inaugural State of Ethics and Trust in Technology de Deloitte, publié en décembre.
Elle a interrogé près de 1 800 professionnels dans huit secteurs (y compris la technologie, les services financiers, les soins de santé et le gouvernement) sur des approches éthiques des technologies émergentes telles que les véhicules autonomes, l’informatique quantique et la réalité augmentée ou virtuelle. Elle a constaté que 87 % d’entre eux manquaient ou ne connaissaient pas les principes éthiques régissant le développement et l’utilisation des technologies émergentes au sein de leurs organisations.
Bien que cette conclusion s’applique aux entreprises à tous les niveaux, elle est d’une importance vitale pour les entreprises technologiques, qui opèrent désormais sous un contrôle accru dans une économie difficile.
La confiance est la nouvelle devise dans un environnement de plus en plus concurrentiel, déclare Rozita Dara, professeur agrégée en sciences informatiques à l’Université de Guelph, en Ontario, au Canada. « La confiance donne aux organisations un avantage concurrentiel », déclare-t-elle.
Il est temps de mettre en place des cadres éthiques
Les lacunes éthiques se manifestent de différentes manières. TikTok s’est manifesté par sa prétendue utilisation abusive des données, et par des qualités addictives dans l’application que les critiques inquiètent les utilisateurs. Une étude de l’Université de Harvard a révélé des préjugés raciaux dans la technologie de reconnaissance faciale développée par IBM et Microsoft. Et les observateurs ont identifié les préjugés sexistes dans Google Translate et un système de recrutement basé sur l’IA d’Amazon (que l’entreprise a finalement mis au rebut).
« La confiance donne aux organisations un avantage concurrentiel. »Rozita Dara, professeur agrégée en informatique, Université de Guelph
La confiance dans une entreprise dépend de son engagement envers l’utilisation éthique de la technologie. Et cela double pour les entreprises qui créent réellement cette technologie.
« Nous avons défini une attente quant à ce que cette technologie va être et à ce qu’elle va faire », déclare Yasemin J. Erden, professeur adjoint à l’Institut de société numérique de l’Université de Twente à Enschede, aux Pays-Bas. En promouvant la technologie auprès des utilisateurs, il existe un risque que le fabricant ou le fournisseur ne saisisse pas entièrement ses implications. « Tout cela a un impact sur la confiance que les gens ont dans la technologie. »
Nous voyons cela jouer maintenant en ce qui concerne la technologie cognitive (IA). En mars, plus de 1 100 informaticiens et autres sommités technologiques, dont Elon Musk, ont signé une lettre ouverte demandant à tous les laboratoires de suspendre le travail sur tous les modèles de formation plus puissants que GPT-4, un modèle linguistique de grande envergure de la société de recherche OpenAI qui alimente son service controversé ChatGPT.
[Lire également : Oui, ChatGPT dynamisera le piratage et aidera également à le combattre]
Erden ne se sent pas à l’aise pour discuter des détails de la dernière version de GPT, car les fabricants n’ont pas été suffisamment transparents. « Nous ne savons pas exactement comment il fait ce qu’il fait », avertit-elle, faisant écho aux plaintes d’autres experts en IA. « Alors, comment pouvons-nous vraiment évaluer les allégations qui sont faites à ce sujet ? » (Le fait que ce chatbot mal compris ait été rapidement coopté par des acteurs de cybermenaces pour créer des logiciels malveillants et d’autres contenus dangereux n’aide pas non plus.)
Les meilleures pratiques de Big Tech
Les normes et politiques régissant l’industrie technologique arrivent, il n’y a aucun doute à ce sujet. Mais jusqu’à ce qu’elles prennent effet, il est essentiel que les entreprises technologiques adoptent leur propre ensemble de principes éthiques, qui peuvent être utilisés à la fois en interne (pour guider le développement de nouvelles technologies fiables) et en externe (pour gagner les consommateurs).
« [Mozilla est] vraiment transparente : elle sait clairement quels sont ses objectifs, quelles sont ses limites, ce qu’elle fait et ce qu’elle change. »Yasemin J. Erden, professeur adjoint, Institut de la société numérique, Université de Twente
Le rapport de Deloitte sert de base utile. Il conseille aux dirigeants d’entreprise de rencontrer les équipes réelles qui effectuent le travail. Et pour démarrer la conversation, elle offre un cadre en sept parties pour aider à diagnostiquer la « santé éthique » des produits et services d’une entreprise technologique. Selon le cadre éthique de Deloitte en matière de confiance technologique, toutes les nouvelles technologies employées par une entreprise technologique doivent être :
- Transparent : les utilisateurs doivent comprendre et être en mesure d’inspecter la manière dont la technologie aide à prendre des décisions.
- Sûr et sécurisé : les utilisateurs doivent être protégés contre tout préjudice et leurs données ne doivent pas être utilisées ou stockées au-delà de leur objectif déclaré et prévu et sans l’approbation expresse de l’utilisateur.
- Privée : la technologie doit respecter la vie privée des utilisateurs.
- Responsable : la technologie doit être durable, humaine et servir un bien commun et social.
- Robuste et fiable : la technologie doit produire des résultats précis et cohérents.
- Responsable : il doit être clair qui est responsable de l’utilisation de la technologie.
- Juste et impartiale : la technologie doit être conçue pour traiter tout le monde équitablement.
Définir les principes n’est qu’une partie du défi. L’autre est de les exécuter, souligne Brian Green, directeur de l’éthique technologique au Markkula Center for Applied Ethics de l’Université de Santa Clara. « Comment faites-vous en sorte que ces choses se produisent dans le contexte d’une entreprise lorsque vous créez de nouveaux produits ? » qu’il demande.
Le Markkula Center dispose d’une boîte à outils destinée aux ingénieurs et aux concepteurs technologiques pour aider à s’attaquer à ce processus. Il publiera bientôt un manuel sur l’application de l’éthique technologique.
Dara cite l’éthique dès la conception comme une meilleure pratique fondamentale. Il intègre l’éthique dans le développement d’un produit ou d’un service dès le début, en reconnaissant l’ensemble de son écosystème, y compris les droits et intérêts des utilisateurs. C’est comme ajouter « Et » à l’équipe DevSecOps . Les développeurs doivent tenir compte de l’éthique lorsqu’ils testent la fonctionnalité d’un outil, en évaluant sa fiabilité et son applicabilité.
Qui fait les choses correctement ?
Comme le souligne le rapport de Deloitte, l’application de principes éthiques spécifiques peut varier selon les technologies. L’IA a des implications, des utilisateurs et des caractéristiques techniques différents de, par exemple, l’informatique quantique, la blockchain ou la réalité virtuelle.
Les éthiciens doivent explorer les spécificités en fonction des paramètres individuels d’une entreprise, ce qui soulève la question : parmi les entreprises qui explorent ce nouveau paysage éthique, est-ce qu’il faut faire les choses correctement ?
Erden nomme Mozilla, le fabricant de logiciels basé en Californie qui est à la fois une fondation et une société.
« Ils sont vraiment transparents : ils savent clairement quels sont leurs objectifs, quelles sont leurs limites, ce qu’ils font et ce qu’ils changent », dit-elle. « Je pense qu’il y a beaucoup de respect pour leurs plateformes, comme Firefox, et leurs ambitions.
Mozilla investit également massivement dans l’engagement, note Erden. Elle a démontré son engagement en faveur de la technologie éthique dans son manifeste, avec des initiatives telles que son Responsible Computing Challenge, son matériel éducatif sur la manière de gérer les problèmes éthiques dans le secteur technologique, et désormais son Responsible AI Challenge. Elles rayent simplement la surface.
Green a co-écrit une étude de cas du Forum économique mondial sur l’éthique chez IBM et cite Big Blue comme leader ici. L’entreprise a créé un comité d’éthique de l’IA en 2018, publié ses propres principes de confiance et de transparence, et les a soutenus avec cinq piliers de confiance, en défendant des valeurs telles que la confidentialité et l’équité. Elle a également fait don d’outils à la communauté open source pour aider à la « robustesse antagoniste », c’est-à-dire défendre l’IA contre l’utilisation abusive par les attaquants.
Il a rédigé une analyse similaire sur Salesforce, qui a développé en 2018 son Bureau d’utilisation éthique et humaine de la technologie, et une autre sur Microsoft.
Bien sûr, aucune entreprise n’est parfaite, c’est pourquoi de nombreux experts dans le domaine épineux de l’éthique tentent d’éviter d’émettre une approbation globale.
« Tout ce que nous pouvons faire est d’évaluer les pratiques individuelles, les technologies individuelles et les étapes individuelles », conclut Erden. Il s’agit d’un processus répétitif qui évalue les actions sur leurs mérites éthiques, et qui devrait en théorie encourager les entreprises à continuer à s’efforcer de s’améliorer, produit par produit, nouveau service technologique par nouveau service technologique. « Il n’y a pas de fin à cela. »
