Les piratages d’inscription des électeurs, les données de santé personnelles non sécurisées pendant la pandémie de COVID-19, les modèles insidieux de discrimination en ligne : la confidentialité des données ne pourrait pas être plus essentielle pour naviguer dans ce qui se prépare à être une année encore plus difficile.
Latanya Sweeney, professeure Daniel Paul de la pratique du gouvernement et de la technologie à Harvard et directrice et fondatrice du laboratoire de confidentialité des données de Harvard, a des informations importantes à partager sur de tels défis. Le pionnier de la confidentialité des données est un conférencier principal lors de la conférence Women in Cybersecurity (WiCyS) de ce mois-ci ( 17-19 mars) à Cleveland.
Sweeney étudie comment la technologie peut aider à protéger les fichiers d’inscription des électeurs et à résoudre d’autres problèmes sociétaux, politiques et de gouvernance. Elle a été un leader dans les domaines de la confidentialité des données et de l’équité algorithmique.
« Les concepteurs technologiques sont les nouveaux décideurs politiques. »
Son travail a été cité dans la loi HIPAA (Health Insurance Portability and Accountability Act), qui définit les réglementations sur la protection de la vie privée médicale au niveau fédéral. « Je viens d’avoir une histoire étrange de début de conflit technologique et social, de faire une expérience qui met en évidence le problème, puis d’avoir mille grands esprits pour essayer de le résoudre », a déclaré Sweeney dans un entretien avec Endpoint.
Auparavant, Sweeney était directeur de la technologie à la Federal Trade Commission des États-Unis et a reçu le prestigieux Louis D. Brandeis Privacy Award. Elle a été la première femme noire à obtenir un doctorat en informatique du Massachusetts Institute of Technology, en 2001. Sweeney doit présenter un discours lors de la conférence WiCyS 2022 le 18 mars.
(L’entretien suivant a été condensé et modifié pour plus de clarté.)
Pourriez-vous nous donner les points forts de votre discours d’ouverture, « Comment la technologie façonnera notre avenir civique », lors de la conférence Women in Cybersecurity ?
Les concepteurs technologiques sont les nouveaux décideurs politiques. Nous ne les élisons pas ; nous ne votons pas pour eux. Mais les décisions arbitraires qu’elles prennent et la technologie qu’elles créent dictent la manière dont nous vivons nos vies. Notre capacité à appliquer une valeur, une norme ou une loi particulière dépend beaucoup de ce que cette technologie nous permet de faire.
Comment vous êtes-vous intéressé à la confidentialité des données ?
En fait, je n’étais pas [au début]. L’année a donc été 1996. Toute ma vie, je voulais être un scientifique informatique et je voulais construire une « machine de réflexion », un ordinateur qui pouvait apprendre et penser comme des humains. J’étais sur la bonne voie en tant qu’étudiante en sciences informatiques au MIT.
« Je traversais le laboratoire et j’ai entendu un éthicien dire : « Les ordinateurs sont maléfiques ». »
Alors que j’étais un étudiant diplômé, un jour je marchais dans le laboratoire et j’ai entendu un éthicien dire : « Les ordinateurs sont maléfiques ». L’exemple qu’elle a donné était les données de santé qui avaient été collectées sur les employés de l’État, leurs familles et les retraités, et données aux chercheurs et aux entreprises. Elle a dit : « Ne réalisent-ils pas que les gens pourraient utiliser ces données pour chanter des juges ou pour compromettre les forces de l’ordre ? Est-ce anonyme ? »
[Les données de santé] avaient le mois, le jour et l’année de naissance, le sexe et le code postal à cinq chiffres. Je suis donc allé à l’hôtel de ville et j’ai acheté la liste électorale de Cambridge, dans le Massachusetts, pour 20 dollars. La raison pour laquelle je suis allé à la mairie de Cambridge pour acheter la liste des électeurs était double. Premièrement, William Weld était le gouverneur du Massachusetts à l’époque et il s’était effondré. Les informations sur son effondrement se trouveraient dans ces données de santé. Et la deuxième raison était que la liste électorale partageait la date de naissance, le sexe et le code postal.
Il s’avère que six personnes à Cambridge avaient sa date de naissance. Seuls
trois d’entre eux étaient des hommes, et il était le seul dans son code postal.
Cela signifiait que la date de naissance, le sexe et le code postal étaient uniques
pour William Weld dans le fichier de l’électeur et seraient uniques pour lui
dans les données de santé, et que je pouvais lier ces [ensembles de données] et placer son
nom dans son dossier de santé de manière unique. Et c’était une expérience assez époustouflante.
Les lois du monde entier ont très rapidement changé en raison de cette expérience. Ici, aux États-Unis, il s’agirait de la règle de confidentialité HIPAA. C’était vraiment un moment incroyable.
Vous avez rencontré des obstacles en essayant de publier les résultats de cette expérience, n’est-ce pas ?
C’est absolument vrai. Il y a eu un énorme débat pendant des années sur : Est-ce l’informatique ? Certaines personnes diraient qu’il ne s’agit pas vraiment de la sécurité informatique, car avec la confidentialité dont nous parlons, personne n’est entré en contact pour obtenir [les données]. Ce sont les données que je donne librement.
« C’était une expérience assez époustouflante. Les lois du monde entier ont très rapidement changé. »
À l’époque, la sécurité informatique concernait à peu près la sécurité du périmètre, ou s’assurer que les gens ne s’infiltrent pas dans les informations, ou qu’ils utilisaient le chiffrement. Aucune de ces façons de penser, avec ce type de boîte à outils, n’allait résoudre ce problème. Cela rendait très, très difficile la publication, car ce n’était tout simplement pas le type de problème que l’informatique s’était habituée à résoudre.
Vous avez récemment créé le Public Interest Tech Lab à Harvard, qui aide les chercheurs à « réinventer la manière dont la technologie peut être utilisée par les gouvernements et la société civile pour le bien public ». Mais ce n’est pas seulement un endroit où discuter de la théorie. Vous produisez des applications et des plateformes réelles.
À bien des égards, le Public Interest Tech Lab, que nous appelons simplement le Tech Lab, est une extension naturelle du travail qui a commencé lorsque j’étais étudiant. La première vague de ces conflits technologiques et sociaux concernait la confidentialité des données. Et ensuite, l’équité algorithmique et tous ces problèmes avec l’élection 2016 . Et à bien des égards, toutes ces vagues sont toujours avec nous. Nous ne les avons vraiment pas résolus dans leur intégralité.
Quelles nouvelles technologies pourrions-nous proposer pour commencer à résoudre ces problèmes ? Et parfois, la solution est un changement juridique ou réglementaire, et nous l’avons fait. Mais nous avons également produit de nouvelles technologies.
[Lire également : mettre en lumière les motifs sombres et la collecte de données personnelles]
Mais nous avons toujours besoin de plus en plus de technologues, au niveau gouvernemental, au Congrès. Nous avons besoin de technologues qui pensent comme ça dans l’intérêt public, même dans les grandes entreprises technologiques. Et donc la question est : Comment créez-vous ce pipeline ? C’est la raison du Tech Lab.
Qu’apprenez-vous de ce travail ?
En 2016, entre autres choses, nous avons été les premiers à signaler les vulnérabilités sur les sites Web d’inscription des électeurs. Et pour la plupart, ces vulnérabilités sont toujours chez nous. Il n’y a pas de solution rapide.
Le problème est que vous pouvez usurper l’identité d’un électeur, puis modifier son inscription d’une manière qui pourrait faire que son vote ne
compte pas ou ne compte pas complètement. Il n’y a rien que l’électeur sache ou
puisse faire, et vous pouvez le faire à grande échelle, afin de pouvoir éliminer un ou deux points de pourcentage dans l’ensemble de l’État sans que personne ne s’en rende compte.
Nous avons eu cette idée de VoteFlare. L’idée est de surveiller l’inscription des électeurs en temps réel. C’est un peu comme la surveillance du crédit, où si quelque chose se passe mal avec votre crédit, la société de crédit vous en informera. Eh bien, nous faisons la même chose avec les inscriptions des électeurs et les bulletins de vote par courrier. Si quelque chose se passe mal, nous vous enverrons un message texte, un e-mail ou un message vocal, selon ce que vous sélectionnez, pour vous informer de quelque chose qui ne va pas, afin que vous ayez la possibilité de le corriger et que votre vote compte entièrement.
Nous avons pu nous défendre pour l’élection de ruissellement en Géorgie. Nous avons donc pu apporter beaucoup d’aide aux électeurs en Géorgie. Et cette année, nous essayons de le déployer dans 48 États et dans le District de Columbia. Le Texas avait son principal, et il est déjà opérationnel au Texas.
Vous avez mentionné l’équité algorithmique. Qu’est-ce qui vous distingue en termes de préjugés et de stéréotypes ?
Lorsque je suis devenu professeur à Harvard, j’étais interviewé par un journaliste, et je devais lui montrer un article particulier [de mon côté]. J’ai donc saisi mon nom dans la barre de recherche Google, et il pointe vers une publicité qui s’est affichée à droite, et il dit : « Eh bien, oubliez cet article. Parlez-moi de l’heure à laquelle vous avez été arrêté. »
« La publicité a dit : « Latanya Sweeney a été arrêtée » avec un point d’interrogation. Et je lui ai dit : « Eh bien, je n’ai jamais été arrêté. »
La publicité a déclaré : « Latanya Sweeney a été arrêtée » avec un point d’interrogation et « En savoir plus sur son arrestation et plus encore. » Et je lui ai dit : « Eh bien, je n’ai jamais été arrêté. »
La publicité est apparue sous deux formes : soit elle impliquait que vous aviez un historique d’arrestation, soit elle était neutre et disait : « En savoir plus ».
Pourquoi cela s’est-il produit ? Quels noms venaient avec les publicités d’arrestation, et lesquels n’en étaient pas ? Lorsque j’ai saisi « Latanya » dans la recherche d’images de Google, la fenêtre contextuelle affiche tous ces visages noirs, et lorsque j’ai saisi « Tanya » dans la recherche d’images, la fenêtre contextuelle affiche tous ces visages blancs.
Cela m’a conduit à faire une étude. Bien sûr, si votre prénom est donné plus souvent aux bébés noirs que les bébés blancs, vous obtenez ces publicités impliquant une arrestation. N’oubliez pas que la publicité est placée sur le nom
complet de la personne. Il ne s’agit pas uniquement d’un prénom. Ce n’est pas un peu Latanya. C’est Latanya Sweeney.
C’était la première fois qu’un algorithme, en l’occurrence Google AdSense, était qualifié pour faire l’objet d’une enquête par le ministère de la Justice en tant que violation de la Loi sur les droits civils.
Que dites-vous aux femmes qui envisagent d’entrer dans votre domaine ?
C’est incroyablement important, car différentes [femmes] verront des choses différentes. Si vous pensez à cette histoire sur la discrimination et les publicités en ligne, cela n’aurait jamais eu lieu si je n’avais pas de nom donné plus souvent aux bébés noirs que les bébés blancs.
Rien ne doit être interdit pour les femmes. Nous avons besoin du meilleur et du plus brillant travail dans un domaine, non pas celui qui coche une case ou l’autre, mais celui qui est vraiment le meilleur et le plus brillant et qui nous aide à mieux comprendre comment être compétitif et performant dans un monde mondial.
