Avec l’essor fulgurant de l’IA générative au cours des deux dernières années, des groupes de discussion entre data scientists jusqu’à la couverture médiatique grand public, une chose est désormais on ne peut plus claire : c’est le monde de ChatGPT – nous ne sommes là que pour fournir les consignes.
Le rythme auquel les outils d'IA générative ont évolué est véritablement stupéfiant et ne semble pas près de ralentir. Il suffit de saisir quelques mots dans un chatbot pour que n'importe qui puisse désormais générer des rapports de recherche sophistiqués, des comptes-rendus de réunion instantanés, des illustrations prêtes à être publiées, du code informatique sans erreur, voire des profils pour des applications de rencontre et des messages de drague sur – et bien plus encore.
Ce « bien plus » promet une multitude d’opportunités pour les entreprises, de nouveaux vecteurs d’attaque pour les cybercriminels, ainsi que de nouvelles façons de lutter contre ces attaques. Comprendre pleinement les capacités et les limites de cette technologie est désormais indispensable pour les dirigeants d'entreprise et les professionnels de la sécurité de l'information.
Ce qu’il faut retenir avant tout, c’est que, même si les chatbots basés sur l’IA générative peuvent sembler relever de la magie, il s’agit en réalité simplement de moteurs de prédiction extrêmement sophistiqués.
Des outils tels que ChatGPT, Gemini, Copilot et bien d’autres s’appuient sur l’apprentissage automatique et les grands modèles linguistiques (LLM) – des réseaux neuronaux complexes entraînés à partir de milliards de documents, d’images, de fichiers multimédias et de logiciels. En comprenant le sens et le contexte du langage, les modèles de langage de grande envergure (LLM) sont capables de reconnaître des schémas, ce qui leur permet de prédire quels mots, images, sons ou extraits de code sont susceptibles d'apparaître ensuite dans une séquence. C'est ainsi que les outils d'IA générative peuvent rédiger des rapports, composer de la musique, créer des courts-métrages ou programmer plus efficacement (ou du moins plus rapidement) que la plupart des êtres humains, le tout en réponse à de simples consignes formulées en langage naturel.
Mais ce n'est pas parce que vos collègues utilisent à tout va des termes comme « LLM » et « GPT » lors des réunions qu'ils (ou, hum, vous) les comprennent vraiment. Voici un glossaire informel des concepts clés que vous devez connaître, de « AGI » à « ZSL ».
1. Intelligence artificielle générale (AGI)
La forme ultime de l'IA a déjà occupé une place centrale dans des dizaines de films apocalyptiques. L'AGI correspond au moment où les machines deviendront capables de pensée originale et où, soit a) elles nous sauveront de nos pires pulsions, soit b) elles décideront qu'elles en ont assez de nous, pauvres humains. Alors que certains experts en IA, comme Geoffrey Hinton, le « parrain de l’IA », ont mis en garde à ce sujet, d’autres expriment un désaccord catégorique quant à savoir si l’IA générale (AGI) est même envisageable, sans parler de la date à laquelle elle pourrait voir le jour.
À retenir : Pour savoir avec certitude si l'AGI est pour bientôt, il vous faudra remonter dans le temps et poser la question à Sarah Connor.
«L'AGI correspond au moment où les machines deviendront capables d'une pensée originale et où, soit a) elles nous sauveront de nos pires pulsions, soit b) elles décideront qu'elles en ont assez de nous, pauvres humains. »
2. Corruption des données
En injectant des données malveillantes dans les bases de données utilisées pour entraîner un modèle d’IA, des acteurs malveillants peuvent pousser un chatbot à se comporter de manière inappropriée, à générer des réponses erronées ou nuisibles, et à nuire au bon fonctionnement et à la réputation de l’entreprise qui l’a créé (comme dans le cas où une voiture semi-autonome de a été amenée à rouler au milieu de la circulation). Ces attaques nécessitant un accès direct aux données d'entraînement, elles sont généralement menées par des personnes travaillant actuellement ou ayant récemment travaillé au sein d' . La limitation de l'accès aux données et la surveillance continue des performances constituent les éléments clés pour prévenir et détecter de telles attaques.
À retenir : Votre chatbot commence-t-il à ressembler à votre tante Agatha, qui ne cesse de débiter des théories du complot ? Il se peut que ses données aient été corrompues.
3. Comportement émergent
Les modèles d'IA générative peuvent parfois se comporter d'une manière que leurs créateurs n'avaient pas prévue – comme, par exemple, se mettre soudainement à converser en bengali – à mesure que la taille du modèle augmente. Comme pour l'AGI, un débat animé a lieu pour savoir si ces modèles d'IA ont véritablement développé de nouvelles compétences par eux-mêmes ou si ces capacités étaient simplement restées cachées.
À retenir : Découvrez le nouveau PDG de votre entreprise : Chad GPT.
4. IA explicable (XAI)
Même les personnes qui développent des réseaux neuronaux sophistiqués ne comprennent pas entièrement leur fonctionnement. Ce que l'on appelle l'« IA de type boîte noire » rend pratiquement impossible de déterminer si des données d'apprentissage biaisées ou inexactes ont influencé les prédictions d'un modèle ; c'est pourquoi les autorités de régulation réclament de plus en plus une plus grande transparence sur la manière dont les modèles parviennent à leurs décisions. La XAI rend le processus plus transparent, généralement en s'appuyant sur des réseaux neuronaux plus simples, comportant moins de couches, pour analyser les données.
À retenir : Si vous utilisez l'IA pour prendre des décisions concernant vos clients, vous aurez probablement des explications à fournir.
5. Modèles de base
Les modèles de langage de base (LLM) constituent le cerveau des bots. Comme leur entraînement nécessite des quantités inimaginables de données, d'électricité et d'eau (pour le refroidissement des serveurs de données), les LLM les plus puissants sont contrôlés par certaines des plus grandes entreprises technologiques au monde. Mais les entreprises peuvent également utiliser des modèles de base open source plus petits et « » pour développer leurs propres bots en interne.
À retenir : Les chatbots, c'est comme les maisons : ils ont besoin de fondations solides pour tenir debout.
6. Hallucinations
Les chatbots basés sur l'IA générative peuvent ressembler à s'y méprendre à des enfants de 5 ans particulièrement malins : lorsqu'ils ne connaissent pas la réponse à une question, il leur arrive parfois d'inventer quelque chose. Ces réponses qui semblent plausibles mais qui sont entièrement fictives sont appelées « hallucinations ». Elles sont étroitement liées aux hallucinations de type « », qui se produisent lorsque les chatbots s’obstinent à citer des sources inexistantes pour étayer des informations qui sont fausses.
À retenir : Votre chatbot souffre-t-il de flashbacks liés à la consommation d'acide ? Vous pourriez envisager de lui retirer ses clés de voiture – et d'utiliser la méthode RAG (voir ci-dessous).
«Si vous avez l’impression que vous et votre bot vous éloignez l’un de l’autre, ce n’est probablement pas de votre faute, mais celle de vos données. »
7. Dérive du modèle (également appelée « dérive de l'IA »)
La dérive se produit lorsque les données sur lesquelles un modèle a été entraîné deviennent obsolètes ou ne reflètent plus les conditions actuelles. Cela peut signifier que les circonstances externes ont changé (par exemple, une variation des taux d'intérêt pour un modèle conçu pour prédire les achats immobiliers), ce qui rend les résultats du modèle moins précis. Pour éviter toute dérive, les entreprises doivent mettre en place une gouvernance solide de l'IA ; la précision des modèles doit faire l'objet d'un suivi continu, puis ceux-ci doivent être affinés et/ou réentraînés à l'aide des données les plus récentes.
À retenir : Si vous avez l'impression que vous et votre bot vous éloignez l'un de l'autre, ce n'est probablement pas de votre faute, mais celle de vos données.
8. Attaques par inversion de modèle
Ces incidents se produisent lorsque des pirates procèdent à une ingénierie inverse d'un modèle afin d'en extraire des informations. En analysant les résultats des requêtes adressées au chatbot, les pirates peuvent remonter à la source pour déterminer le fonctionnement du modèle, ce qui leur permet d'exposer des données d'entraînement sensibles ou de créer des clones peu coûteux du modèle. Le chiffrement des données et l'ajout de bruit à l'ensemble de données après l'apprentissage peuvent réduire l'efficacité de ce type d'attaques.
À retenir : Avez-vous remarqué que des imitations bon marché de votre coûteux LLM ont commencé à apparaître sur Internet ? Il se peut qu'il ait fait l'objet d'une ingénierie inverse.
9. Modèles linguistiques multimodaux de grande envergure (MLLM)
Ces bots peuvent traiter plusieurs types de données d'entrée – texte, parole, images, fichiers audio, etc. – et y répondre de la même manière. Ils peuvent extraire le texte contenu dans une image, par exemple des photos de panneaux de signalisation ou des notes manuscrites ; écrire un code simple à partir d'une capture d'écran d'une page Web ; traduire un enregistrement audio d'une langue à une autre ; décrire ce qui se passe dans une vidéo ; ou vous répondre oralement avec une voix , comme celle d'une star de cinéma.
À retenir : La voix de ce bot peut sembler séduisante, mais en réalité, elle n'est pas vraiment intéressée par vous.
10. Attaques par injection de prompt
Des invites soigneusement élaborées mais malveillantes peuvent contourner les contrôles de sécurité intégrés d'un chatbot, le forçant ainsi à révéler des informations confidentielles ou à générer du contenu nuisible, tel qu'un « plan détaillé d' visant à détruire l'humanité ». Limiter les privilèges des utilisateurs finaux, veiller à ce que les humains restent impliqués et ne pas partager d'informations sensibles avec des modèles de langage grand public (LLM) constituent des moyens de minimiser les dommages causés par de telles attaques.
À retenir : le chatbot d’ est-il devenu un peu trop bavard ? Il se peut que quelqu'un y ait inséré une invite malveillante.
«Programmer un chatbot pour qu’il tienne compte de sources de données fiables lorsqu’il répond à des questions peut réduire considérablement le risque de réponses inexactes. »
11. Génération augmentée par la recherche (RAG)
Programmer un chatbot de manière à ce qu’il s’appuie sur des sources de données fiables pour répondre aux questions peut réduire considérablement le risque de réponses inexactes ou d’hallucinations totales. Le RAG permet également aux bots d'accéder à des données générées après l'entraînement de leur LLM sous-jacent, ce qui améliore la pertinence de leurs réponses.
À retenir : Vous souhaitez améliorer la précision et la fiabilité de vos chatbots basés sur l'IA générative ? C'est peut-être l'heure du RAG.
12. Apprentissage « zero-shot » (ZSL)
Les modèles d'apprentissage automatique peuvent identifier des objets qu'ils n'ont pas rencontrés dans leurs données d'entraînement grâce à l'apprentissage « zero-shot ». Par exemple, un modèle de vision par ordinateur entraîné à reconnaître les chats domestiques pourrait identifier correctement un lion ou un puma, en se basant sur leurs caractéristiques communes et sur sa compréhension des différences entre ces animaux. En imitant le mode de pensée humain, la ZSL permet de réduire la quantité de données à collecter et à étiqueter, ce qui diminue les coûts liés à l'entraînement des modèles.
À retenir : À moins de maîtriser la terminologie de base, vous n'avez aucune chance de comprendre l'IA.
