Les sonneries d’alarme sonnent dans les services de sécurité informatique partout, et cette fois-ci, le coupable n’est pas un pirate informatique ou un logiciel malveillant sophistiqué. C’est quelque chose de beaucoup plus inquiétant : l’IA fantôme.
Si vous avez entendu le terme « informatique fantôme », où les employés contournent les canaux officiels pour utiliser leurs propres appareils ou logiciels, vous connaissez probablement le concept d’IA fantôme. Le terme fait référence à l’utilisation non autorisée et non autorisée d’outils d’IA générative (GenAI), tels que ChatGPT, Gemini de Google et d’autres modèles de langage de grande taille (LLM), par les employés au sein des organisations sans approbation informatique. Et c’est une menace croissante pour les données de l’entreprise.
En fait, Gartner prévoit que d’ici 2027, 75 % des employés auront acquis, modifié ou créé des technologies en dehors de la visibilité de l’informatique, contre 41 % en 2022. En attendant, plus de la moitié (55 %) des employés mondiaux interrogés en 2023 par Salesforce ont admis utiliser des outils GenAI non approuvés au travail. Il s’agit d’un grand nombre de codes d’entreprise, documents et présentations privés ou sensibles en cours de développement et d’intégration dans des modèles en dehors des pare-feux d’entreprise.
Si cela vous rappelle ces jours encombrants où les employés ont commencé à ignorer les politiques de l’entreprise et à utiliser leurs appareils personnels pour se connecter aux réseaux d’entreprise, cela devrait. Que la tendance « apporter votre propre appareil (BYOD) » au travail a soulevé des questions similaires pour le personnel informatique : interdisons-nous complètement cette technologie et fournissons-nous des alternatives approuvées par l’entreprise, ou trouvons-nous des moyens de l’adapter en toute sécurité ?
Bien que la plupart des entreprises aient rapidement réalisé qu’elles ne pouvaient pas arrêter ce train BYOD en évolution rapide, l’histoire a tendance à se répéter. Des entreprises telles qu’Accenture, Amazon, Apple, BofA, Calix, Citigroup, Goldman Sachs, Microsoft, Northrop Grumman, Samsung, Spotify, Verizon et Wells Fargo essaient toutes d’interdire l’utilisation par les employés d’outils d’IA externes tels que ChatGPT. Les deux tiers des 20 plus grandes entreprises pharmaceutiques et de nombreuses écoles publiques le font également.
Le problème croissant de l’IA fantôme
Pourquoi les mesures draconiennes ? Parce que, alors que les outils GenAI saisissent le zégéiste, les employeurs s’inquiètent que leurs données privées soient partagées avec des systèmes d’IA externes qui pourraient être corrompus ou violés, créant des risques concurrentiels, monétaires ou juridiques.
« Ce n’est pas malveillant, mais c’est dangereux. Et ce ne sont pas des événements isolés. »Bernard Marr, futuriste technologique, auteur et consultant
Imaginez une équipe marketing, par exemple, utilisant l’analyse des réseaux sociaux alimentée par l’IA pour décoder le comportement des clients, optimiser les campagnes publicitaires et prédire la prochaine grande tendance. C’est efficace. Mais sans l’approbation du service informatique, ces outils pourraient ouvrir la porte à l’exposition de données client sensibles ou d’informations confidentielles de l’entreprise, entraînant potentiellement des violations de données et de graves violations de réglementations telles que la loi HIPAA ou le RGPD.
« J’ai récemment vu plusieurs incidents alarmants parmi mes clients où les employés ont partagé par inadvertance des informations sensibles avec des systèmes d’IA publics, des feuilles de route de produits aux données financières », déclare Bernard Marr, futuriste, auteur et consultant en technologie. « Ce n’est pas malveillant, mais c’est dangereux. Et ce ne sont pas des événements isolés ; ils se produisent plus fréquemment que les entreprises ne le réalisent ou ne le souhaitent. »
Tim Morris, conseiller en sécurité en chef pour Tanium aux Amériques, avertit d’une autre tendance moins connue à l’IA fantôme, où les services ayant besoin d’outils GenAI pour gérer des tâches spécifiques n’obtiennent pas ce dont ils ont besoin à partir des outils existants, afin de créer les leurs à l’aide de LLM disponibles dans le commerce. Le problème avec cette approche : l’informatique n’a pas évalué les modèles pour un usage interne.
« Personne ne comprend d’où vient le modèle, ce qu’il contient, ce qu’il était censé faire et ce qu’il fait dans votre entreprise », dit-il. « Il est impossible de savoir à quel point il est sécurisé et s’il ouvre vos données, et votre organisation, à des menaces et des expositions extérieures. »
[Lire également : 4 priorités de leadership critiques pour les RSSI à l’ère de l’IA]
Marr et Morris comprennent les impulsions de l’entreprise pour résoudre ces problèmes en interdisant les chatbots externes. Marr déclare que la création et la fourniture d’alternatives sécurisées aux employés peuvent être une solution réalisable, tant qu’elles se rapprochent des capacités de ChatGPT, Bard et d’autres outils.
« Les solutions internes peuvent fonctionner si elles sont suffisamment robustes », déclare Marr. « La clé est de faire correspondre la puissance et la convivialité de l’IA grand public. »
Mais si les entreprises ne peuvent pas le faire, dit-il, les employés trouveront des moyens d’utiliser des outils publics, quelles que soient les politiques de l’entreprise.
1 fait surprenant sur l’IA fantôme et 4 étapes pour la combattre
La raison de cette violation des règles peut surprendre certains dirigeants d’entreprise.
« Vos employés qui utilisent l’ombre [IA] ont vraiment de bonnes intentions : le plus souvent, ils essaient simplement de comprendre comment faire leur travail mieux et plus rapidement. »Candy Alexander, RSSI et responsable des pratiques informatiques, NeuEon Inc.
« Vos employés qui utilisent l’ombre [IA] ont vraiment de bonnes intentions : le plus souvent, ils essaient simplement de comprendre comment faire leur travail mieux et plus rapidement », a déclaré Candy Alexander, RSSI et responsable des pratiques cyber chez NeuEon Inc. S’exprimant dans un épisode récent du podcast compagnon de Focal Point, Let’s Converge, Alexander a expliqué l’envie de se promener en dehors des limites des logiciels approuvés par l’entreprise. « De nombreux utilisateurs trouvent que demander l’utilisation de logiciels peut être un long et difficile parcours à traverser en Amérique des entreprises. Ils sortent donc et essaient des versions gratuites de fill-in-the-blank. »
Dans ce cas, essayer de contrôler les outils d’IA des employés est comme élever des chats, car la technologie est trop omniprésente et utile pour rester hors de leurs mains. En fait, 40 % des travailleurs admettent utiliser des outils GenAI interdits au travail, selon l’enquête Salesforce.
« L’interdiction directe de ChatGPT est susceptible d’entraîner un retour de feu », déclare Marr. « Les employés trouveront des solutions de contournement, et les entreprises risquent de prendre du retard sur les capacités d’IA cruciales. »
Donc, si les entreprises acceptent qu’elles ne peuvent pas interdire les applications GenAI tierces pour toujours, comment peuvent-elles en prendre en charge et limiter l’IA fantôme ? Voici quatre stratégies à prendre en compte :
1. Sensibiliser les employés aux risques de l’IA fantôme
La première ligne de défense est l’éducation. De nombreux employés ne comprennent pas que les outils d’IA publics peuvent exposer des données confidentielles, 70 % des travailleurs dans le monde disant à Salesforce qu’ils n’ont jamais reçu ou terminé de formation sur l’utilisation de l’IA générative en toute sécurité ou de manière éthique. Même les professionnels, les équipes de sécurité informatique, admettent qu’il s’agit d’un nouveau territoire pour eux, 65 % des professionnels dans une récente enquête Splunk admettant qu’ils manquent d’éducation sur GenAI.
Des experts tels que Morris recommandent que les entreprises éduquent les équipes sur les risques liés à l’exposition d’informations exclusives de l’entreprise via des LLM externes et les conseillent sur la manière d’empêcher cela de se produire. Ces meilleures pratiques doivent inclure des informations de base sur la manière dont les chatbots IA stockent et traitent les données, ce qui est et n’est pas acceptable à partager avec ces outils, les outils que l’organisation a autorisés à utiliser, et toutes les étapes pour signaler l’utilisation non autorisée des outils.
« Les entreprises doivent créer des programmes de formation complets pour enseigner à tous leurs employés les risques de l’IA fantôme, tout comme la formation de sensibilisation à la cybersécurité qu’elles ont déjà reçue », déclare Morris.
2. Développer et appliquer des politiques d’IA
Soixante pour cent des professionnels de la confiance numérique craignent que les mauvais acteurs exploitent GenAI. Cependant, selon un sondage éclair de l’ISACA, seules 15 % des organisations disposent de politiques d’IA pour y remédier.
« Vous devez trouver un équilibre entre l’innovation et le contrôle, sinon les employés contourneront simplement vos restrictions. »Tim Morris, conseiller en chef en sécurité pour les Amériques, Tanium
« Vous devez trouver un équilibre entre l’innovation et le contrôle, ou les employés contourneront simplement vos restrictions comme ils le faisaient avec le BYOD », déclare Morris.
Plus précisément, Morris recommande aux organisations d’établir des cadres de gouvernance de l’IA qui définissent des normes claires pour l’utilisation des outils d’IA. Retarder cela pourrait pousser les employés à développer leurs propres projets d’IA, contournant les protocoles de sécurité, explique-t-il. La clé est d’équilibrer l’innovation et le contrôle, permettant une flexibilité dans des limites sûres.
Une mise en garde, ajoute Morris : chaque politique d’IA doit inclure un processus pour gérer les exceptions. Les employés doivent être informés de la politique, de ses raisons et de la manière de demander des exceptions ou des outils supplémentaires. Il déclare qu’une communication claire empêche la frustration et limite les chances que les employés recherchent indépendamment des outils d’IA non autorisés.
3. Surveillez l’utilisation de l’IA grâce à la sécurité des endpoints
La surveillance de l’utilisation de l’IA fantôme n’est plus facultative. Elle est essentielle, car même si une entreprise propose des outils GenAI raisonnables, certains indésirables insatisfaits produiront toujours leur variante.
Les solutions de sécurité des endpoints, comme Tanium (qui publie ce magazine), offrent une visibilité sur l’utilisation non autorisée de l’IA en détectant les LLM et les scripts connexes sur les appareils des employés. Ces outils peuvent aider les services informatiques à suivre les téléchargements non autorisés, à signaler les activités suspectes et à garantir la conformité aux politiques de l’entreprise. Les contrôles au niveau du réseau, tels que le blocage du contenu proxy, peuvent également empêcher l’accès à des outils d’IA non approuvés.
4. Mettre en œuvre des audits et des examens réguliers
Le paysage de l’IA évolue trop rapidement pour une approche « le définir et l’oublier ». Les services informatiques doivent continuellement auditer et examiner l’utilisation de l’IA dans l’ensemble de l’organisation. Cela inclut la surveillance de la conformité aux politiques d’IA, l’analyse des menaces émergentes et la mise à jour des protocoles de sécurité à mesure que de nouveaux outils et cas d’utilisation apparaissent.
[Lire également : les responsables de l’IA sont difficiles à trouver. Voici où trouver les vôtres]
L’IA évolue à une vitesse record et les risques de sécurité se multiplient tout aussi rapidement. Des audits et des évaluations des risques continus sont essentiels pour garder une longueur d’avance sur les violations potentielles.
La voie à suivre
L’IA Shadow, comme l’informatique Shadow et le BYOD avant, est une conséquence naturelle de la consumérisation rapide de la technologie. Les employés souhaitent utiliser l’IA car elle les rend plus productifs, et les services informatiques ne peuvent pas ignorer cette augmentation de productivité. Cependant, sans la gouvernance, la surveillance et les contrôles de sécurité appropriés, l’IA fantôme pourrait devenir une bombe à retardement pour les entreprises du monde entier.
« La solution ne consiste pas à interdire ces outils, mais à établir des politiques claires, à former les employés et à déployer des alternatives sécurisées qui répondent aux besoins de l’entreprise », déclare Morris. « Comme toutes les technologies, l’IA fantôme est à la fois un défi et une opportunité. Les entreprises qui peuvent trouver le bon équilibre entre innovation et sécurité prospéreront dans l’avenir alimenté par l’IA. »
