Piratages des listes électorales, données de santé personnelles non sécurisées pendant la pandémie de COVID-19, formes insidieuses de discrimination en ligne…data privacy : la protection des données n’a jamais été aussi cruciale pour faire face à une année qui s’annonce encore plus difficile.
Latanya Sweeney, titulaire de la chaire Daniel Paul de pratique de la gouvernance et des technologies à Harvard, ainsi que directrice et fondatrice du Data Privacy Lab de l’ de Harvard, a des réflexions importantes à partager sur ce type de défis. The data privacy pioneer is a keynote speaker at this month’s Women in Cybersecurity (WiCyS) conference (March 17-19) in Cleveland.
M. Sweeney étudie comment la technologie peut contribuer à sécuriser les fichiers d'inscription électorale et à résoudre d'autres problèmes sociétaux, politiques et de gouvernance. Elle est une figure de proue dans les domaines de la protection des données et de l' ainsi que de l'équité algorithmique.
«Les concepteurs de technologies sont les nouveaux décideurs politiques. »
Ses travaux ont été cités dans la loi sur la portabilité et la responsabilité en matière d'assurance maladie (HIPAA), qui a établi les règles relatives à la confidentialité des données médicales au niveau fédéral. « J’ai toujours eu cette étrange habitude d’être en avance sur les conflits entre technologie et société, de mener une expérience qui met en évidence le problème, puis de mobiliser un millier d’esprits brillants pour tenter de le résoudre », a déclaré M. Sweeney lors d’un entretien accordé à Endpoint.
Auparavant, M. Sweeney occupait le poste de directeur technique à la Commission fédérale du commerce des États-Unis et avait reçu le prestigieux prix Louis D. Brandeis pour la protection de la vie privée. Elle a été la première femme noire à obtenir un doctorat en informatique au Massachusetts Institute of Technology, en 2001. M. Sweeney doit prononcer un discours lors de la conférence WiCyS 2022 sur le thème « 18 mars ».
(L'entretien ci-dessous a été condensé et remanié pour plus de clarté.)
Pourriez-vous nous présenter les points forts de votre discours d'ouverture, intitulé « Comment la technologie façonnera notre avenir civique », prononcé lors de la conférence « Women in Cybersecurity » ?
Les concepteurs de technologies sont les nouveaux décideurs politiques. Nous ne les élisons pas ; nous ne votons pas pour eux. Mais les décisions arbitraires qu’ils prennent et les technologies qu’ils mettent au point dictent notre mode de vie. Notre capacité à faire respecter une valeur, une norme ou une loi donnée dépend en grande partie de ce que cette technologie nous permet de faire.
Comment vous êtes-vous intéressé à la protection des données ?
En fait, je ne l'étais pas [au début]. Nous étions donc en l'an 1996. Toute ma vie, j'ai voulu devenir informaticien, et je souhaitais construire une « machine pensante », un ordinateur capable d'apprendre et de penser comme les humains. J'étais en bonne voie pour obtenir mon doctorat en informatique au MIT.
«Je traversais le laboratoire quand j’ai entendu un spécialiste de l’éthique dire : “Les ordinateurs sont malfaisants.” »
Alors que j'étais étudiant en troisième cycle, un jour, je traversais le laboratoire lorsque j'ai entendu un spécialiste de l'éthique dire : « Les ordinateurs sont le mal. » Elle a cité comme exemple les données de santé qui avaient été collectées auprès des fonctionnaires de l'État, de leurs familles et des retraités, puis transmises à des chercheurs et à des entreprises. Elle a déclaré : « Ne se rendent-ils pas compte que ces données pourraient être utilisées pour faire chanter des juges ou compromettre les forces de l'ordre ? » « Est-ce anonyme ? »
[Les données de santé] comprenaient le mois, le jour et l'année de naissance, le sexe et le code postal à cinq chiffres. Je me suis donc rendu à la mairie et j'ai acheté la liste électorale de Cambridge, dans le Massachusetts, pour 20 dollars. J'ai eu deux raisons de me rendre à la mairie de Cambridge pour acheter la liste électorale. Premièrement, William Weld était gouverneur du Massachusetts à cette époque et il s'était évanoui. Ces données médicales contiendraient des informations concernant son malaise. Et la deuxième raison était que la liste électorale comportait la date de naissance, le sexe et le code postal.
Il s'avère que six personnes à Cambridge avaient la même date de naissance que lui. Seuls
trois d’entre eux étaient des hommes, et il était le seul dans son code postal.
Cela signifiait que la date de naissance, le sexe et le code postal étaient uniques
pour William Weld dans le fichier électoral et le seraient également pour lui
dans les données de santé, et que je pouvais relier ces [ensembles de données] et associer son
nom à son dossier médical de manière univoque. Et cela a été une expérience vraiment époustouflante.
Très rapidement, les législations du monde entier ont évolué à la suite de cette expérience. Ici, aux États-Unis, il s'agirait de la règle de confidentialité prévue par la loi HIPAA. C'était vraiment un moment extraordinaire.
Vous avez rencontré quelques difficultés lorsque vous avez essayé de publier les résultats de cette expérience, n'est-ce pas ?
C'est tout à fait vrai. Pendant des années, un vaste débat a eu lieu autour de la question suivante : s'agit-il d'informatique ? Certains diront qu’il ne s’agit pas vraiment de sécurité informatique, car en ce qui concerne la confidentialité des données de l’ , dont il est question ici, personne ne s’est introduit dans le système pour obtenir [ces données]. Ce sont les données que je partage gratuitement.
«» Ce fut une expérience vraiment saisissante. Très rapidement, les lois ont évolué partout dans le monde. »
À l'époque, la sécurité informatique consistait essentiellement à assurer la sécurité périmétrique, c'est-à-dire à veiller à ce que personne ne s'introduise dans les systèmes d'information, ou à s'assurer que le chiffrement était bien utilisé. Aucune de ces façons de penser, avec ce type d'outils, n'allait permettre de résoudre ce problème. Cela rendait la publication très, très difficile, car ce n'était tout simplement pas le genre de problème que l'informatique avait l'habitude de résoudre.
Vous avez récemment créé, à Harvard, le « Public Interest Tech Lab » de l’ ( ), qui aide les chercheurs à « repenser la manière dont la technologie peut être mise au service du bien commun par les pouvoirs publics et la société civile ». Mais ce n'est pas seulement un lieu où l'on discute de théorie. Vous développez de véritables applications et plateformes.
À bien des égards, le Public Interest Tech Lab, que nous appelons simplement le « Tech Lab », s'inscrit dans le prolongement naturel du travail que j'ai commencé lorsque j'étais étudiant en master. La première vague de ces conflits entre technologie et société a porté sur la protection des données. Et puis sont apparus les problèmes d'équité algorithmique et toutes ces controverses liées à l'élection 2016 . Et à bien des égards, toutes ces vagues sont toujours présentes parmi nous. Nous ne les avons pas vraiment résolus dans leur intégralité.
Quelles nouvelles technologies pourrions-nous proposer pour commencer à résoudre ces problèmes ? Et parfois, la solution réside dans une modification législative ou réglementaire ; c'est donc ce que nous avons fait. Mais nous avons également mis au point de nouvelles technologies.
Mais nous avons toujours besoin de plus en plus de spécialistes des technologies — au sein de l' , de l'administration fédérale et au Congrès. Nous avons besoin de technologues qui adoptent ce type de réflexion dans l'intérêt général, même lorsqu'ils travaillent au sein des grandes entreprises technologiques. La question est donc la suivante : comment, , mettre en place ce processus ? C'est la raison d'être du Tech Lab.
Qu'apprenez-vous grâce à ce travail ?
En 2016, nous avons notamment été les premiers à mettre en évidence des failles de sécurité sur les sites Internet dédiés à l'inscription sur les listes électorales. Et dans l'ensemble, ces vulnérabilités sont toujours d'actualité. Il n'y a pas de solution miracle.
Le problème est que vous pourriez usurper l'identité d'un électeur, puis modifier son inscription sur les listes électorales de telle sorte que son vote ne soit pas pris en compte
ou ne soit pas pris en compte dans son intégralité. L'électeur n'en saurait rien et
ne pourrait rien y faire ; or, cela pourrait se faire à grande échelle, de sorte que vous pourriez gagner un ou deux points de pourcentage dans tout l'État sans que personne ne s'en aperçoive vraiment.
Nous avons eu l'idée de ce site : VoteFlare. L'idée est de suivre en temps réel l'inscription des électeurs. C'est un peu comme la surveillance de votre dossier de crédit : si un problème survient au niveau de votre crédit, l'organisme de crédit vous en informera. Eh bien, nous procédons de la même manière pour les inscriptions sur les listes électorales et les bulletins de vote par correspondance. En cas de problème, nous vous enverrons un SMS, un e-mail ou un message vocal, selon votre choix, pour vous signaler qu'il y a un problème, afin que vous puissiez y remédier et que votre vote soit pleinement pris en compte.
Nous avons réussi à le mettre en place à temps pour le second tour des élections en Géorgie. C'est ainsi que nous avons pu apporter un grand soulagement aux électeurs de Géorgie, tous bords politiques confondus. Et cette année, nous essayons de l'étendre à 48 États et au District de Columbia. Le Texas a tenu ses primaires, et le système est déjà opérationnel dans cet État.
Vous avez évoqué la question de l'équité algorithmique. Qu'est-ce qui vous frappe particulièrement en matière de préjugés et de stéréotypes ?
Lorsque j’ai commencé à enseigner à Harvard, j’étais interviewé par un journaliste et je devais lui montrer un article [que j’avais rédigé]. J'ai donc tapé mon nom dans la barre de recherche Google, et il m'a montré une publicité qui s'affichait à droite, puis il m'a dit : « Bon, oubliez cet article. » « Parlez-moi de la fois où vous avez été arrêté. »
«» L'annonce indiquait : « Latanya Sweeney arrêtée », suivi d'un point d'interrogation. Et je lui ai répondu : « Eh bien, je n’ai jamais été arrêté. » »
La publicité indiquait : « Latanya Sweeney arrêtée », suivi d'un point d'interrogation, et « Découvrez les circonstances de son arrestation et bien plus encore. » Et je lui ai répondu : « Eh bien, je n'ai jamais été arrêté. »
Cette publicité se déclinait en deux versions : soit elle laissait entendre que vous aviez un casier judiciaire, soit elle était neutre et indiquait : « En savoir plus ».
Pourquoi cela se produisait-il ? Quels noms figuraient dans les avis de recherche, et lesquels n'y figuraient pas ? Lorsque j'ai tapé « Latanya » dans la recherche d'images de Google, toutes ces personnes noires sont apparues, et lorsque j'ai tapé « Tanya » dans la recherche d'images, toutes ces personnes blanches sont apparues.
C'est ce qui m'a amené à mener une étude. Effectivement, si votre prénom est plus souvent donné aux bébés noirs qu'aux bébés blancs, vous recevez ces publicités qui laissent entendre une arrestation. N'oubliez pas que l'annonce est publiée au nom complet de la personne, tel qu'il figure sur
. Ce n'est pas seulement une question de prénom. Ce n'est pas n'importe quelle Latanya. C'est Latanya Sweeney.
C'était la première fois qu'un algorithme, en l'occurrence Google AdSense, faisait l'objet d'une enquête du ministère de la Justice pour violation de la loi sur les droits civils.
Que dites-vous aux femmes qui envisagent de se lancer dans votre domaine ?
C'est extrêmement important, car chaque [femme] verra des choses différentes sur . Si vous réfléchissez à cette histoire de discrimination et de publicités en ligne, cela ne se serait jamais produit si je n’avais pas porté un prénom donné plus souvent aux bébés noirs qu’aux bébés blancs.
Rien ne devrait être interdit aux femmes. Nous avons besoin que les meilleurs et les plus brillants travaillent dans un domaine donné — non pas ceux qui répondent à tel ou tel critère, mais ceux qui sont véritablement les meilleurs et les plus brillants et qui nous aident à mieux comprendre comment être compétitifs et performants dans un monde globalisé.