L’insuline n’est pas libre. Mais un seul tweet prétendant qu’il aurait pu coûter aux actionnaires des milliards de dollars.
Lorsqu’une parodie du compte Twitter d’Eli Lilly a fait la promotion de l’insuline gratuite en novembre dernier, la fiction intrigante est devenue virale et a envoyé le prix des actions du fabricant de médicaments culminant à près de 5 %, ce qui a même freiné les stocks d’autres fabricants d’insuline Novo Nordisk et Sanofi.
La personne derrière le tweet l’a fait pour faire un point sur la cupidité de l’entreprise et les conséquences potentielles du nouveau système de Twitter donnant un chèque bleu « vérifié » à toute personne disposée à dépenser 8 USD par mois. Mais il a également fait involontairement un point supplémentaire : la capacité croissante de la désinformation (déclarations inexactes faites par erreur ou par négligence) et de la désinformation (mentions délibérément racontées) à détruire des entreprises et à avoir un impact sur des industries entières.
Lorsque de fausses informations deviennent virales, elles peuvent subir de graves atteintes financières et à la réputation, et de nombreuses organisations commencent tout juste à comprendre comment gérer cette nouvelle réalité.
« Les entreprises doivent reconnaître que leur réputation peut évoluer en un clin d’œil », déclare Alan Jagolinzer, professeur de comptabilité financière à la Cambridge Judge Business School et directeur du Centre for Financial Reporting and Accountability. « C’est particulièrement vrai lorsque vous traitez avec un acteur belligérant qui connaît un fort public. »
Les diffuseurs de désinformation et de désinformation peuvent prendre la forme de vendeurs à découvert espérant manipuler le cours des actions d’une entreprise, ou d’entreprises tentant de semer le doute sur les produits d’un concurrent. Il peut s’agir de personnes poursuivant des vendettas personnels, d’opportunistes tirant parti des crises pour construire leur public, ou de États-nations tentant de favoriser le chaos et la confusion.
Les marques peuvent être endommagées et les chefs d’entreprise peuvent se trouver à risque personnel, grâce à de fausses rumeurs ou à des faux profonds générés par l’IA, avec Tesla, le détaillant en ligne Wayfair et le fournisseur mexicain de ciment Cemex parmi les récentes victimes de haut niveau.
Et aucune entreprise n’est à l’abri. Alors que les attaques contre les multinationales font la une des journaux, de fausses informations ont affecté les petites et moyennes entreprises, des plombiers aux chirurgiens plasticiens, souvent sous la forme d’avis négatifs de « vengeance » sur des sites tels que Yelp et Google Reviews. Une étude 2022 menée par le National Bureau of Economic Research a révélé que les faux avis négatifs peuvent amener les petites entreprises à augmenter leurs prix de 12 % pour compenser les ventes perdues.
La désinformation (et la désinformation) facilitée
Le lancement d’une attaque d’information sur une entreprise est beaucoup plus facile que l’ hameçonnage ou la tentative de pirater un réseau informatique pour planter des rançongiciels, souligne Lisa Kaplan, PDG et fondatrice de la plateforme d’atténuation de la désinformation Alethea.
« Vous n’avez pas besoin d’être techniquement averti pour lancer une campagne de désinformation, [et] les personnes qui sont motivées financièrement ou idéologiquement ciblent de plus en plus les entreprises. »Lisa Kaplan, PDG et fondatrice d’Alethea
« Vous n’avez pas besoin d’être techniquement averti pour lancer une campagne de désinformation de la même manière que vous afin d’ accéder avec succès aux grands systèmes bancaires », déclare-t-elle. « Et bien que les acteurs de l’État aient tendance à sauver leurs meilleures nouvelles astuces pour les moments géopolitiques, les personnes qui sont motivées financièrement ou idéologiquement ciblent de plus en plus les entreprises. »
La plateforme Artemis basée sur l’IA d’Alethea fait partie d’un domaine émergent de solutions technologiques conçues pour détecter et vaincre les attaques informatiques. Il agit en tant qu’analyste virtuel : il collecte des informations sur Internet et les réseaux sociaux, identifie les acteurs connus et les récits courants, et recherche des attaques coordonnées. En fournissant un signal d’alerte précoce indiquant qu’une attaque peut être en cours, ces plateformes donnent aux entreprises le temps de réagir avant qu’elles ne se propagent.
Les attaques peuvent être chronométrées autour d’événements critiques, comme une introduction en bourse à venir. Se mettre devant une histoire potentiellement préjudiciable et prendre en charge le récit est essentiel, déclare Kaplan. L’entreprise peut avertir ses clients et d’autres parties prenantes de la manière d’identifier les informations erronées qui sont en cours de route, une technique connue sous le nom de « prébancking ». Des études montrent que le pré-rembourrage est plus efficace que le désembourrage, ou la vérification des faits, de fausses informations après leur propagation.
« Si vous détectez les signaux d’avertissement précoces indiquant que quelque chose est sur le point de se produire, vous pouvez modifier le descriptif en disant : « Voici des informations précises », déclare Kaplan. « Vous pouvez d’abord contacter vos parties prenantes, et parfois être le premier vous aide à gagner. »
Les Deepfakes sont en hausse
Grâce à l’ IA générative, la désinformation est sur le point de s’aggraver beaucoup, déclare Jevin West, professeur associé à l’Université de Washington et directeur du Center for a Informed Public de l’université.
« Les rumeurs se propagent très rapidement, en particulier avec les deepfakes et les médias synthétiques. Si les entreprises ne s’inquiètent pas déjà de cela, elles devraient l’être. »Jevin West, directeur du Centre pour un public éclairé de l’Université de Washington
« La capacité des grands modèles linguistiques à générer des messages de haute qualité très rapidement rend beaucoup plus difficile pour les entreprises de répondre aux fausses rumeurs », déclare West. « Les rumeurs se propagent très rapidement, en particulier avec les faux profonds et les médias synthétiques. Si les entreprises ne sont pas déjà inquiets à ce sujet, elles devraient l’être. »
Les dommages causés par la désinformation générée par l’IA peuvent avoir un effet d’ondulation. Lorsqu’une publicité en ligne pour des régimes d’assurance dentaire présentant une version factice de Tom Hanks est apparue plus tôt cette année, elle n’a pas seulement réduit la réputation de Hanks ; elle a également porté préjudice aux assureurs légitimes offrant des produits similaires, ainsi qu’aux entreprises avec lesquelles l’acteur lauréat d’un Oscar pourrait réellement être en affaires.
« Cela réduit le niveau de confiance du public dans l’ensemble du secteur », déclare West.
La capacité à générer des deepfakes s’est considérablement améliorée en seulement quelques années, déclare Rijul Gupta, fondateur et PDG de DeepMedia, qui commercialise une plateforme capable de détecter les médias synthétiques (faux produits par l’IA).
« Il y a dix-huit mois, vous auriez peut-être eu besoin de 10 minutes du visage et de la voix réels d’une personne pour générer une fausse », dit-il. « Maintenant, vous avez besoin de beaucoup moins. Je peux presque vous garantir qu’il y aura des applications accessibles au public qui peuvent prendre cinq minutes du visage et de la voix de quelqu’un et leur faire dire n’importe quoi. »
La plateforme DeepIdentify de DeepMedia effectue des opérations d’ingénierie inverse audio et vidéo pour déterminer si elles ont été assemblées par l’IA générative. La société travaille avec le ministère de la Défense des États-Unis et les principales plateformes de réseaux sociaux pour identifier les médias synthétiques, et prévoit de publier une version d’entreprise de sa plateforme plus tard cette année.
« Si un faux profond du PDG d’une entreprise du Fortune 500 est publié sur TikTok, nos solutions de confinement par IA le rechercheront et détermineront s’il s’agit de faux », déclare Gupta. « S’il s’agit d’une manipulation d’IA, nous contacterons la plateforme et demanderons qu’elle soit supprimée. »
Le problème des faux profonds est susceptible de s’aggraver. Nina Schick, auteure de Deep Fakes : The Coming Infocalypse, a prédit que jusqu’à 90 % du contenu sur Internet pourrait être généré synthétiquement d’ici 2026.
Se défendre contre l’inévitable
Les experts conviennent que les organisations ne peuvent pas s’appuyer sur des tiers ou des autorités juridiques pour intervenir et résoudre le problème de désinformation pour elles.
Kaplan, d’une part, note comment les récentes réductions des équipes de confiance et de sécurité sur les principales plateformes sociales mettent à la charge des organisations de prendre l’initiative de protéger leur propre réputation. « Avoir un aperçu précoce de ce qui est dit permet de prendre des décisions commerciales plus intelligentes », déclare-t-elle.
Pas que le secteur de la technologie est (ou devrait être) complètement hors de portée. Les entreprises technologiques doivent faire leur part pour établir la confiance des consommateurs et la rétablir lorsqu’elle est perdue. L’établissement de cadres éthiques qui régissent la création et l’utilisation de nouvelles technologies est une première étape importante que toutes les entreprises technologiques, des start-up aux grandes marques, doivent franchir en ce moment. Cela signifie intégrer la transparence et la responsabilité dans les conceptions dès le départ.
[Lire également : ce que le secteur technologique peut apprendre de TikTok : la confiance est tout]
Quant à ceux qui ne font pas partie du secteur technologique ? Jagolinzer demande plus d’actions pour tenir les plateformes responsables. Il dit que les grandes entreprises devraient se mettre en œuvre avec une législation telle que la loi sur les services numériques de l’UE, et que les chefs d’entreprise doivent s’exprimer davantage sur le fait de faire part de leurs préoccupations directement aux organisations médiatiques.
« Si je dirigeais une grande entreprise, je serais partout dans les sociétés de médias, en disant : « Si vous ne pouvez pas gérer les informations circulant dans votre infrastructure, vous nous mettez tous en danger », dit-il.
La désinformation n’est pas un problème que les organisations peuvent se permettre d’ignorer, ajoute UW’s West. Il faudra un effort coordonné entre les équipes de cybersécurité, le conseiller juridique et le personnel des relations avec les médias pour surveiller de près les attaques sur la réputation d’une entreprise, grâce à l’écoute des réseaux sociaux, à la technologie de détection et aux plans de réponse aux incidents.
« Vous devez investir dans une équipe qui prête attention à ces choses », dit-il. « Parce que les choses vont s’aggraver avant de s’améliorer. »
