1 Security Leaders Braced for Daily AI-Driven Attacks by Year-End – Infosecurity Magazine, 24th April 2024 2 85% of Cyber security Leaders Say Recent Attacks Powered by AI: Weekly Stat – CFO, 30th August 2023 3 Cyber Attacks Are More Sophisticated Than Ever, With AI-Powered Attacks Posing the Greatest Risk – PR Newswire, 26th March 2024 4 UK Cybercrime Statistics 2024 – Twenty IT Services, 5th July 2024

On parle beaucoup de l’intelligence artificielle (IA) en ce moment, notamment en matière de sécurité. Il y a le fait que 93 % des responsables de la sécurité des systèmes d’information (RSSI) pensent que leur organisation sera confrontée quotidiennement à des menaces liées à l’IA d’ici la fin de 2024.1 Il y a l’idée que 85 % des professionnels de la sécurité attribuent une augmentation récente des attaques à des acteurs malveillants utilisant l’IA générative2 et il y a le problème qu’environ un tiers (35 %) des organisations pensent qu’elles ne sont pas équipées pour faire face à ce type d’attaques.3

Même si nous entendons beaucoup parler des dangers de l’IA, nous devons également garder à l’esprit que ces mêmes technologies contribuent depuis longtemps à assurer la sécurité des organisations, et continueront de le faire à l’avenir.

Aujourd’hui, le centre d’opérations de sécurité (SOC) moyen est confronté à un raz-de-marée d’informations entrantes, des journaux de données d’un volume tel qu’il est impossible de les traiter efficacement. Plus d’un demi-million de nouvelles cybermenaces sont identifiées chaque jour,4 et même si les SOC continuent de faire des efforts, ils sont confrontés à une bataille perdue pour identifier le 1 % du trafic qui nécessite une intervention humaine.

Attaque et défense : Comment l’IA contrecarre la menace de l’IA

1

Au fond, tout cela se résume à un problème d’échelle. Pour faire face efficacement aux menaces, les SOC doivent être en mesure de:

a) comprendre les tendances typiques de leur écosystème de trafic (connexions, flux de données, adresses, destinations) et les analyser en fonction d’une « marge de normalité ».

b) comprendre à quoi ressemble la normalité en premier lieu. Ainsi, en plus de gérer leur propre flux d’informations, les SOC doivent également comprendre ce qui se passe dans le monde extérieur.

Ces défis ne sont pas anodins, et l’augmentation des menaces liées à l’IA ne fait que les rendre plus difficiles à résoudre. C’est pourquoi nous en sommes maintenant au point où la seule véritable façon pour les organisations de se protéger est de combattre le feu par le feu — ou, dans ce cas, l’IA par l’IA.

Échelle + vitesse = Sécurité supérieure Aujourd’hui, l’IA est souvent utilisée comme un terme générique. Lorsque les gens en parlent, neuf fois sur dix, ils parlent en fait d’IA générative (GenAI) plutôt que de quelque chose comme l’apprentissage automatique (ML) ou les réseaux neuronaux. Il est important d’être clair sur ce que nous entendons vraiment lorsque nous utilisons des termes comme « IA », car lorsque nous sommes précis, cela nous aide à mieux comprendre ce dont une technologie est réellement capable.

Alors que l’IA générative se concentre sur la création de texte ou d’images, par exemple, une technologie comme le ML s’intéresse beaucoup plus à des choses comme l’analyse de données et la reconnaissance de formes, en particulier à grande échelle. C’est pour ces raisons que le ML est au cœur de l’IA Threat Cloud de Check Point, et ce depuis plus d’une décennie.

En termes simples, ThreatCloud est un référentiel de chaque once d’informations dont nous disposons sur les menaces actuelles. Il contient des renseignements agrégés de chaque client Check Point participant, complétés par des données provenant de fournisseurs d’accès Internet (FAI) et des indicateurs de compromission (IoC) provenant également de centres nationaux de cybersécurité.

Le ML est essentiel ici, car il nous permet d’analyser très rapidement une énorme quantité de données. Cela nous permet ensuite de prendre des décisions instantanées sur la manière dont différents facteurs se combinent.

Supposons que vous ayez un e-mail envoyé à un point de terminaison spécifique. L’e-mail est ensuite ouvert sur un appareil mobile à l’aide d’Office 365. Par la suite, la connexion au point de terminaison prend une toute nouvelle direction, comme un appel à la maison, par exemple. Pris isolément, aucun de ces comportements ne constitue nécessairement un problème. Cependant, combinés, ils peuvent indiquer un problème de sécurité potentiel. C’est quelque chose que le ML pourrait signaler bien plus rapidement qu’un opérateur SOC ne le pourrait.

Ainsi, ce que le ML nous offre, ce n’est pas seulement l’échelle à partir de laquelle nous pouvons voir la situation dans son ensemble, mais aussi la rapidité avec laquelle nous pouvons réagir de manière appropriée. Et c’est pour cette raison que je pense que le ML aidera également les professionnels de la sécurité à ajouter beaucoup plus de valeur aux procédures à venir..

Jouer sur les points forts de chacun Aujourd’hui, la plupart des opérateurs SOC sont dans la position peu enviable de devoir traiter tout ce qui arrive et d’automatiser très peu. À mesure que des technologies comme le ML se répandent, je pense que nous avons la possibilité de renverser cette dynamique, en libérant des ressources talentueuses pour faire davantage ce dans quoi elles excellent.

Malgré ses nombreux atouts, le ML (et l’IA dans son ensemble) a du mal à gérer le contexte. En tant qu’êtres humains, nous avons la chance unique de pouvoir comprendre le contexte dans lequel certains événements se produisent. Les robots ne le peuvent tout simplement pas. Ainsi, alors qu’un humain pourrait examiner une situation et dire « même si tout semble techniquement correct, il est toujours logique de bloquer cette connexion », un robot ne le ferait jamais.

C’est pourquoi je ne vois pas l’avenir sans l’IA, qui sera utilisée seule pour combattre les menaces qu’elle génère, mais en tandem avec les opérateurs humains qui peuvent prendre les bonnes décisions au bon moment. L’échelle et la rapidité offertes par l’IA nous mèneront loin, mais ce n’est que grâce à l’expertise humaine que nous réussirons vraiment..

© 2024 Check Point Software Technologies Ltd. Tous droits réservés. 2