L'intelligence artificielle (IA) permet d'automatiser et d'améliorer les défenses de cybersécurité, cependant, elle aide également les cybercriminels à mettre au point des attaques plus efficaces.
Cet article s'articule autour des points suivants :
Copier le lien de l'article
L'intelligence artificielle (IA) prédictive et l'apprentissage automatique (ML) sont depuis longtemps utilisés pour détecter, atténuer et répondre aux cyberattaques. Les modèles d'IA plus avancés publiés ces dernières années ainsi que les ensembles de données plus vastes utilisés pour les entraîner permettent de renforcer les cyberdéfenses et de détecter les attaques plus tôt dans le cycle de vie des menaces.
Lorsqu’elle est utilisée au service de la cybersécurité, l’IA prédictive contribue à la détection des bots, des logiciels malveillants, des exploitations de vulnérabilités zero-day et des menaces internes ; elle peut repérer les anomalies comportementales et les fuites de données sensibles ; et elle peut enrichir les informations sur les menaces pour les outils et les équipes de sécurité. L'intégration de l'IA ne rend pas les mesures de sécurité classiques infaillibles, mais elle peut souvent accélérer et affiner la détection. L'IA peut également faciliter l'automatisation ou l'élimination de nombreuses tâches manuelles qui ralentissent la productivité des équipes de sécurité et d'ingénierie.
L'IA est un terme désignant le large éventail de méthodes par lesquelles les programmes informatiques peuvent imiter ou reproduire l'intelligence humaine, qu'il s'agisse de faire des prédictions, d'identifier des symboles ou de générer du texte.
Il existe de nombreux types d'IA. Les plus intéressantes pour la cybersécurité sont l'IA prédictive ou l'apprentissage automatique (ML), l'IA générative et l'IA agentique.
Dans les grandes lignes, tous ces types d'IA fonctionnent en effectuant des calculs basés sur de grands échantillons de données. Par exemple, un modèle d'IA ayant analysé plusieurs échantillons de code malveillant peut être capable d'identifier un logiciel malveillant qu'il n'a jamais rencontré auparavant. Plus elle voit d'exemples, plus elle peut détecter rapidement et avec précision les logiciels malveillants et les distinguer du code inoffensif.
Les modèles de cybersécurité améliorés par l'IA peuvent non seulement détecter les logiciels malveillants mais également analyser le comportement des utilisateurs et des applications, détecter les messages trompeurs ou frauduleux, identifier les adresses IP peu fiables, et plus encore.
Les fournisseurs de sécurité et leurs clients peuvent utiliser l'IA pour renforcer les points suivants :
Informations sur les menaces : l’analyse basée sur l’IA du trafic réseau et web peut fournir des informations détaillées sur les menaces en temps réel liées à des tendances et tactiques émergentes. Fortes de ces informations, les cyberdéfenses peuvent s'adapter automatiquement aux dernières attaques.
Protection contre les menaces : un ensemble statique de règles de sécurité de base peut bloquer de nombreuses attaques, mais les attaquants risquent de faire évoluer leurs tactiques et vecteurs au fil du temps. L'IA permet, grâce à l'analyse statistique d'automatiser le processus d'identification des menaces et d'adaptation des défenses, même lorsque les logiciels malveillants évoluent, que les attaquants changent de tactique et de serveurs de commande et de contrôle, et que les attaques proviennent de différentes régions du monde. La capacité de l'IA à apprendre et à affiner ses résultats au fil du temps contribue également à la réduction du taux de faux positifs (qui freinent la productivité dans la mesure où ils doivent être examinés manuellement par les équipes de sécurité).
Détection du phishing : le phishing reste le vecteur d'attaque le plus utilisé, et le plus efficace pour les attaquants. C'est souvent la méthode par laquelle les attaquants s'infiltrent initialement au sein d'une organisation, avant d'atteindre leur cible finale par mouvement latéral. Les attaques par phishing et par compromission du courrier électronique professionnel (BEC) deviennent de plus en plus sophistiquées, les attaquants utilisant des outils d'IA générative pour créer des volumes d'e-mails massifs. Les algorithmes d'IA permettent de détecter les courriels frauduleux conçus de manière convaincante grâce à l'analyse des sentiments, l'apprentissage automatique et l'évaluation de la fiabilité de l'expéditeur. La détection et le blocage des e-mails de phishing évitent aux destinataires la possibilité d'être trompés, ce qui peut arriver même aux utilisateurs les mieux formés.
Détection des deepfakes : les attaquants utilisent de plus en plus les deepfakes générés par l'IA dans les attaques de phishing, les stratégies d'ingénierie sociale et les campagnes de désinformation. Avec l'IA, les deepfakes sont détectés par identification d'incohérences et d'anomalies subtiles qui indiquent qu'un contenu ou un média n'est pas authentique. Les équipes de sécurité peuvent ainsi détecter et bloquer les attaques par ingénierie sociale sophistiquées.
Analyse comportementale : les algorithmes d'apprentissage automatique peuvent identifier des logiques de comportement inhabituelles qui s'écartent de l'activité normale (par exemple, si un plugin logiciel tiers commence à envoyer des requêtes inhabituelles). Ces écarts peuvent indiquer une compromission ou le déroulement d'une activité malveillante. L'analyse comportementale est un outil d'identification pour un certain nombre d'attaques, y compris celles provenant de sources auparavant fiables mais qui ont été compromises.
Atténuation des menaces internes : l'analyse comportementale peut également détecter des comportements inhabituels chez les employés, les sous-traitants et d'autres utilisateurs et ainsi identifier et stopper les menaces internes.
Sécurité des API : les interfaces de programmation d'applications (API) sont des éléments fondamentaux de l'infrastructure des applications web. Aujourd'hui, le trafic à destination et en provenance des API représente un pourcentage important du trafic dynamique sur Internet. Les API sont également souvent la cible d'attaques. Les défenses de sécurité des API améliorées par l'IA peuvent construire un modèle des interactions attendues avec les API, appelé schéma, puis détecter les anomalies dans le trafic des API pour bloquer les attaques potentielles.
Détection des menaces sur la chaîne d'approvisionnement : les attaquants peuvent approcher indirectement leurs cibles en attaquant les dépendances de ces cibles, ou leur « chaîne d'approvisionnement », c'est-à-dire les outils et services tiers qu'ils intègrent dans leurs applications et réseaux. On pourrait dire que cette approche permet aux attaquants de se faufiler par une porte dérobée au lieu d'attaquer directement une organisation. L'IA permet d'identifier les menaces présentes dans les dépendances tierces et d'arrêter les attaques sur la chaîne d'approvisionnement, et elle peut le faire de manière automatisée.
L’IA elle-même peut être vulnérable à une multitude d’attaques, y compris à l’empoisonnement de données, à l’injection d’invites et à plusieurs autres. En savoir plus sur les principaux risques pour les LLM et la sécurité des modèles d’IA.
L’intelligence artificielle (IA) contribue à automatiser et à améliorer les défenses de cybersécurité. Elle permet de détecter, d’atténuer et de contrer les cybermenaces telles que les bots, les logiciels malveillants et les menaces internes. L’IA peut accélérer la détection des menaces et en améliorer la précision, tout en automatisant de nombreuses tâches manuelles pour les équipes de sécurité.
Les types les plus pertinents sont l’IA prédictive ou apprentissage automatique (ML), qui identifie des modèles (par ex. en triant le trafic typique du trafic malveillant ou en identifiant les comportements utilisateur anormaux pouvant suggérer une attaque) ; l’IA générative (GenAI), qui interprète et crée des contenus ; et les agents IA, qui peuvent entreprendre des actions autonomes pour atténuer les menaces.
L’IA peut analyser le trafic réseau pour identifier les menaces et produire des informations en temps réel sur les menaces, permettant ainsi aux défenses de s’adapter automatiquement aux nouvelles attaques.
Les algorithmes d’IA peuvent détecter les e-mails de phishing sophistiqués en utilisant l’analyse des sentiments et en évaluant la fiabilité de l’expéditeur. Dans le cas des deepfakes, l’IA peut identifier les incohérences et anomalies subtiles dans le contenu ou les médias afin de déterminer leur authenticité, aidant ainsi à bloquer les attaques d’ingénierie sociale.
Les algorithmes d’apprentissage automatique établissent un comportement de référence normal, puis identifient les schémas de comportement inhabituels qui s’en écartent. Cela peut indiquer qu’une source jusque-là considérée comme fiable a été compromise ou qu’une menace interne est active.
Les défenses améliorées par l’IA peuvent modéliser les interactions API attendues, puis détecter les anomalies dans le trafic API pour bloquer les attaques potentielles. De même, l’IA peut identifier automatiquement les menaces présentes dans les outils et services tiers afin de stopper les attaques de la chaîne d’approvisionnement.