Alissa Valentina Knight, une « pirate informatique en cours de rétablissement », a passé la meilleure partie des trois dernières décennies à compromettre les réseaux informatiques et les systèmes de sécurité, soit de manière illicite, soit avec la bénédiction des dirigeants d’entreprises et de gouvernements. Le vétéran de la cybersécurité de 26 ans a commencé comme adolescent à la recherche de conseils sur l’obtention d’un accès non autorisé aux informations commerciales classifiées sur les systèmes de tableau d’affichage (BBS). Mais depuis, elle a fait passer son expérience du côté plus sombre de l’informatique à une carrière florissante qui s’étend à la fois sur Internet et dans le monde réel. Découvrez des exemples d’entreprises telles que des concerts de conseil de grande envergure pour le Pentagone, une multitude de crédits de sérigraphie et de production hollywoodiens, et des livres acclamés par la critique comme les voitures connectées de piratage préscientes (et quelque peu terrifiantes).
Aujourd’hui, le célèbre créateur de contenu, influenceur et ancien mogul informatique dirige le Knight Group, un studio de capital-risque qui possède et exploite une multitude de startups de haute technologie. Elle vient de terminer sa dernière création, Assail, une nouvelle start-up d’IA agentique qui construit des agents autonomes conçus pour aider les clients du monde entier avec des fonctions telles que les tests de vulnérabilité et de pénétration automatisés des API. (« Nous sommes une société d’IA concurrente, permettant aux organisations d’identifier et de défendre les vulnérabilités dans leur pile d’applications moderne », explique-t-elle.) En bref : lorsqu’il s’agit de sonder les limites des technologies émergentes et des solutions de cybersécurité, l’expert de premier plan, dont les entreprises commerciales comprennent également des sociétés de publication de jeux vidéo et de télévision, a à peu près tout vu et fait.
Curieux d’entendre comment la forme et la nature des menaces en ligne changent à l’ère de l’intelligence artificielle et de l’automatisation, Focal Point l’a rejointe entre une multitude de vols et de réunions apparemment infinis. Ici, elle partage ses réflexions sur les façons dont les professionnels de la cybersécurité de demain peuvent mieux s’attaquer aux nouveaux dangers numériques, comment les responsables informatiques peuvent adapter leurs stratégies et leur état d’esprit pour s’attaquer aux défis émergents, et ce qui vient à venir à une époque où les dangers numériques évoluent à la vitesse des LLM.
Questions et réponses
Point focal : Comment l’essor de l’IA et de l’automatisation a-t-il changé le paysage des cybermenaces pour les organisations dans tous les espaces ?
Alissa Knight : Historiquement, même avant l’utilisation de l’IA pour des applications contradictoires, les professionnels du travail ont vraiment eu du mal à suivre un adversaire humain. C’est toujours un jeu de rattrapage et de réaction. Désormais, avec des adversaires utilisant des modèles linguistiques de grande et même de petite taille pour lancer de nouvelles menaces et attaques, la fracture entre les défenseurs et les attaquants s’élargit. C’est vraiment une préoccupation de rapidité. Nous opérons désormais à la vitesse et à la létalité des machines, où les personnes qui ne savent même pas comment compiler un exploit deviennent rapidement en mesure de pirater des systèmes et de compromettre un réseau.
« Nous opérons désormais à la vitesse et à la létalité des machines, où les personnes qui ne savent même pas comment compiler un exploit deviennent rapidement en mesure de pirater les systèmes et de compromettre un réseau »Alissa Valentina Knight, PDG et directrice de l’IA, Assail
Récemment, nous avons développé une plateforme utilisant l’IA contradictoire pour identifier les vulnérabilités dans un réseau. Et je peux vous dire que la plateforme que nous avons construite a pu compromettre sept banques en deux minutes et demie. Je ne sais pas comment les humains peuvent se défendre contre quelque chose d’aussi rapide et létal. Cela soulève beaucoup de préoccupations concernant le délai moyen de détection et de réponse, qui ne fait que s’aggraver.
Point focal : Quelles sont certaines des hypothèses de sécurité que les entreprises se précipitent pour adopter de nouveaux outils et technologies d’IA se trompent dès le début ?
Alissa Knight : Du côté de la défense, l’IA n’est plus simplement une fonctionnalité. Il s’agit d’une capacité essentielle, et vous devez monter à bord du bandwagon. L’IA transforme radicalement les capacités cognitives des solutions défensives et offensives. Par conséquent, de nombreuses organisations recherchent désormais des solutions optimisées par l’IA pour pouvoir suivre le rythme. Fondamentalement, la technologie fournit aux défenseurs un niveau d’avantage concurrentiel pour se défendre contre les attaques, et ils l’utilisent également pour améliorer les capacités d’investigation et de réponse aux incidents.
Mais en même temps, vous avez également des adversaires qui utilisent l’IA pour maximiser et amplifier leurs capacités à compromettre plus de réseaux que jamais auparavant. Et pour pénétrer dans des systèmes qu’ils ne pouvaient potentiellement pas auparavant parce que l’exploit était trop cher à acheter sur le dark Web, ils n’y avaient pas accès, etc. Ce que l’IA a fait, c’est vraiment démocratiser la nature du piratage. Il permet aux personnes qui n’ont aucune idée de la manière de pirater et de compromettre les systèmes tant qu’elles ont accès à un modèle d’IA contradictoire (c’est-à-dire un modèle qui n’a pas de garde-fous mis en œuvre ou qui est emprisonné).
Point focal : lorsque les criminels d’aujourd’hui compromettent un réseau ou une application, que ciblent-ils réellement ? Est-il accessible ? S’agit-il de données ? Est-ce une influence sur le réseau ? Ou même l’accès aux modèles d’IA eux-mêmes ?
Alissa Knight : C’est drôle, lorsque j’ai commencé la cybersécurité, il s’agissait vraiment de dégrader les sites Web et de pouvoir dire que j’avais compromis le visage de NASA.gov, ou autre. Aujourd’hui, c’est un monde différent et le piratage est une opération à but lucratif. Il existe des syndicats criminels transnationaux et des personnes qui cherchent à tirer profit de vos données, à rançonner une entreprise, puis à vendre ces données sur le dark Web. Ajoutez-y des États-nations hostiles qui recherchent un avantage militaire ou pour construire ou accéder à quelque chose qu’ils ne pouvaient pas développer seuls. Et voici la chose : les données valent plus que des choses comme le pétrole et le Bitcoin, et c’est à peu près ce que les [criminels] recherchent.
Point focal : quels sont certains des signaux qui indiquent aux attaquants que la posture de sécurité d’une entreprise, et en particulier la posture de sécurité de l’IA, peut être du côté le plus faible ?
Alissa Knight : Je crois fermement que la meilleure défense est d’avoir la meilleure infraction. Et si nous sommes maintenant à une époque où les adversaires utilisent l’IA, nous devons nous demander pourquoi, en tant que défenseurs, certains d’entre nous utilisent toujours des scanners de vulnérabilité existants qui fonctionnent à partir de la correspondance des modèles et n’utilisent pas également l’IA pour identifier et exploiter les vulnérabilités dans notre environnement. Vous devez utiliser les mêmes tactiques, techniques et procédures que les criminels utilisent pour cibler et pénétrer dans votre réseau. Donc, si nous, en tant que défenseurs, avons accès à l’IA, qu’il s’agisse de pare-feux alimentés par l’IA, de contrôles de sécurité ou autre, nous devons tirer parti de la même technologie que les adversaires utilisent contre nous.
Il existe une question simple qui peut identifier si une organisation ne suit tout simplement pas ou ne peut pas se défendre contre les menaces alimentées par l’IA : « En tant que leader informatique, utilisez-vous l’IA pour identifier les vulnérabilités dans votre environnement ? » Je vous garantis que nous sommes à présent dans une ère de guerre machine à machine. Il ne s’agit plus de défendre nos pyramides et nos fournisseurs de services cloud contre les menaces humaines. Nous les défendons désormais contre les robots et les menaces de machines. En fin de compte, il s’agit des LLM par rapport aux LLM.
« En tant que leader informatique, utilisez-vous l’IA pour identifier les vulnérabilités dans votre environnement ? »Alissa Valentina Knight, PDG et directrice de l’IA, Assail
Point focal : si vous conseilliez une équipe de direction, quels conseils leur donneriez-vous pour se défendre contre ces types de cybermenaces, en notant que beaucoup continuent de se rattraper sur le plan informatique ?
Alissa Knight : Je crois toujours fermement en 2026 que les API restent les portes dérobées et latérales de nos environnements d’exploitation. Les API étendues et fantômes sont un problème massif. De nombreuses violations se produisent désormais en raison des pirates informatiques qui tournent leur attention sur les API, car ils savent que c’est là que se trouvent les données, qu’il s’agisse d’informations financières, de PHI, PCI, HIPAA ou de tout ce qui est servi. Mon conseil à la direction est de savoir combien d’API vous avez dans votre environnement, et lesquelles servent des données réglementées. Il aide à créer des stratégies de sécurité telles que des couches d’oignon, à partir de là, plutôt que d’essayer de protéger chaque API et d’avoir une solution alimentée par l’IA pour les trouver, les exploiter, les corriger et les défendre.
Point focal : à l’ère de l’IA et des LLM, quels changements de compétences ou d’état d’esprit pensez-vous que les équipes de sécurité doivent adopter si elles souhaitent se défendre contre toutes ces attaques de plus en plus automatisées et intelligentes ?
Alissa Knight : Je sais qu’il s’agit d’un sujet très controversé, mais je ne crois pas qu’il faille garder les humains au courant. Je pense que les humains doivent s’éloigner pour que l’IA puisse se déplacer à la vitesse de la machine et faire ce que nous avons conçu pour le faire. Maintenant, nous avons certainement une certaine maturité et un certain temps qui doit être consacré au développement de [LLM et outils high-tech automatisés] plus avancés. Mais la chose effrayante est qu’en ce moment, la technologie est la pire qu’elle soit en termes de capacités LLM et SLM. Les solutions ne deviennent que plus performantes et difficiles à partir d’ici.
« Nous opérons désormais à la vitesse et à la létalité des machines, où les personnes qui ne savent même pas comment compiler un exploit deviennent rapidement en mesure de pirater les systèmes et de compromettre un réseau. »Alissa Valentina Knight, PDG et directrice de l’IA, Assail
Mon conseil est d’apprendre à utiliser l’IA dans votre travail dès que possible. Ne vous laissez pas piéger par le débat de « l’IA va-t-elle me remplacer ? » L’IA est là. Il n’y a pas d’arrêt. Il est utilisé par nos ennemis pour compromettre nos réseaux. Et demandez-vous : « Que pouvons-nous faire pour mieux intégrer l’IA dans nos routines ? » Cela fait désormais partie de nos tâches quotidiennes et nous aide à être plus efficaces, à accroître notre efficacité en tant que défenseurs, à accroître notre efficacité en tant que membres rouges et testeurs de pénétration, et simplement à nous rendre plus sûrs, n’est-ce pas ? Si vous ne pouvez pas les battre [adoptants de l’IA, c’est-à-dire], rejoignez-les, je dis toujours.
Point focal : à la vitesse à laquelle le champ évolue, comment voyez-vous la nature de la cybercriminalité évoluer alors que les criminels commencent à utiliser des outils de piratage prêts à l’emploi artificiellement intelligents et des agents d’IA autonomes à grande échelle ?
Alissa Knight : Voici la chose : la nécessité est la mère de l’invention. Étant donné que la Chine et d’autres États-nations hostiles ne sont pas en mesure d’acquérir des GPU de big data comme les puces Hopper Nvidia ou Blackwell Nvidia, il est vraiment difficile pour eux de construire, d’exécuter, d’entraîner et d’inférencer sur ces modèles de 1 billion de paramètres. Alors, que font-ils ? Ils construisent des modèles en petits langages capables de s’exécuter sur des éléments tels que le RTX 6000 avec 96 gigs de DRAM. Je pense que cela continuera à être la direction de nos adversaires et même du côté de la défense.
Pensez aux téléphones portables. Les téléphones portables ont commencé à être très grands, puis ils ont commencé à devenir de plus en plus petits au fil du temps. Je pense que c’est ce qui va se passer avec l’IA, où nous commençons avec ces modèles de paramètres massifs de milliards. Nous allons nous rendre compte que, alors que nous rendons les modèles plus écoénergétiques du côté matériel et plus efficaces, nous essayons de rendre les modèles de plus en plus petits.
Donc, en gros, vous pouvez avoir quelque chose comme un modèle de petite langue extrêmement létal qui peut s’exécuter sur un Raspberry Pi. Ou même le faire sur un appareil qui tient dans votre poche comme un smartphone capable de pirater un réseau sans fil local ou une tour de téléphone portable locale. À l’avenir, je pense que les modèles deviennent plus petits et plus mortels.
Il était une fois que la courbe technologique prenait un an, voire plusieurs années, pour que de nouvelles innovations arrivent. Maintenant, il passe à plus de six mois. Si vous examinez les entreprises d’IA développant des modèles frontière, il s’agit presque d’une sorte de cycle de publication trimestriel pour que de nouvelles capacités démarrent. L’innovation se produit désormais plus rapidement qu’auparavant et nous faisons de grands pas en avant lorsque nous le faisons.
Point focal : Fascinant et effrayant : Notez cela, s’il y a un conseil global que vous offririez aux responsables informatiques sur la sécurisation d’une organisation à l’ère de l’IA, quel serait-il ?
Alissa Knight : Vous ne pouvez pas protéger ce que vous ne savez pas avoir. Vous devez trouver les technologies et les outils qui se trouvent dans votre environnement informatique et les sécuriser en effectuant continuellement des tests d’intrusion et en essayant de les pirater. Je suis un fervent partisan de la gestion continue de l’exposition aux menaces (CTEM). Il est important de continuer à vous pirater et d’utiliser les outils que l’adversaire utilise contre vous avant que les autres ne se déplacent pour le faire.
