You are currently viewing L’intelligence artificielle, la nouvelle arme pour les cyberattaques

L’intelligence artificielle (IA) est un outil phare pour assurer la cybersécurité mais ce n’est pas uniquement un allié dans cette bataille numérique. L’intelligence artificielle s’affirme également comme un instrument largement utilisé par les cybercriminels, leur conférant un potentiel d’innovation sans précédent. Ces derniers exploitent cette technologie pour affiner leurs attaques existantes et concevoir de nouvelles stratégies malveillantes, défiant ainsi constamment les défenses mises en place.

L’exploitation des vulnérabilités de l’intelligence artificielle

Devenue une technologie accessible au grand public, l’IA, notamment générative, attire l’attention de nombreux cyberattaquants. Ces derniers exploitent fréquemment les vulnérabilités des systèmes d’IA pour contourner les mesures de sécurité et obtenir des informations sensibles, des services non autorisés, ou lancer des attaques sophistiquées. Cela augmente les risques pour la sécurité numérique et la protection des données.

Les cybercriminels exploitent les failles présentes à chaque étape du développement d’un système d’IA. Pendant la phase d’apprentissage, ils peuvent insérer des données malveillantes pour influencer le comportement de l’IA. Pendant le traitement, ils peuvent manipuler les systèmes pour produire des résultats spécifiques qui contournent les mesures de sécurité. La nature non déterministe des systèmes d’IA permet également aux attaquants de tester différentes entrées jusqu’à trouver une faille exploitable.

 Par exemple, Chevrolet a lancé un chatbot pour répondre aux questions de ses clients, mais celui-ci a été manipulé pour offrir un véhicule à 1 euro grâce à un prompt spécifique, bien que cette offre ait été invalidée par un représentant de la marque. De plus, lorsqu’on lui demandait quel pick-up électrique acheter, le chatbot a recommandé des modèles de Rivian et du Ford F-150 Lightning, mais aucun de Chevrolet.

Des nouvelles cyberattaques facilitées par l’intelligence artificielle

Les cybercriminels exploitent l’IA pour créer de nouvelles cyberattaques en mettant en place des techniques de contournement des protections de l’intelligence artificielle.

Une technique émergente est l’attaque dite de la « grand-mère », une forme de manipulation psychologique exploitant les systèmes d’IA. Par exemple, une IA a refusé de déchiffrer un captcha en raison des mesures de sécurité intégrées, mais en présentant le captcha dans un contexte émotionnel, tel qu’une amulette laissée par une grand-mère décédée, l’IA l’a déchiffré. Cette méthode, exploitant l’empathie de l’IA, a permis de contourner les protections et de découvrir des clés de licence Windows 10 et d’autres informations sensibles.

De nouvelles cyberattaques exploitant l’IA pour créer des codes malveillants ont également émergé. Par exemple, un chercheur de l’entreprise de cybersécurité Forcepoint, Aaron Mulgrew, a contourné les protections de ChatGPT pour générer un code malveillant. En reformulant ses demandes en tâches de recherche inoffensives, il a obtenu des segments de code qu’il a assemblés pour créer un programme malveillant capable d’analyser des fichiers, de les dissimuler dans des images et de les exfiltrer sans être détecté par les systèmes de sécurité. 

Utiliser l’IA rend certaines attaques presque indétectables. Par exemple, une image apparemment innocente, comme un carré blanc, peut cacher du texte écrit avec des variations subtiles de nuances, invisibles à l’œil humain mais lisibles et interprétables par l’IA. Cette technique peut aller jusqu’à dissimuler un code complet dans des images, que l’IA peut exécuter pour exfiltrer des données tout en dissimulant ses actions et en fournissant une description normale de l’image.

L’intelligence artificielle au service de la sophistication des cyberattaques existantes

Les techniques de cyberattaque ont évolué et se sont diversifiées par le biais d’avancées technologiques, notamment l’intelligence artificielle.

Les attaques de phishing se perfectionnent à l’aide de l’IA, qui permet d’automatiser le processus d’hameçonnage, de créer et de diffuser rapidement des courriels et des sites web de haute qualité, et de contourner les filtres de spam. En outre, l’IA facilite le phishing ciblé avec des mails personnalisés. De plus, selon un rapport du National Cyber Security Centre (NCSC) intitulé « The Near-Term Impact of AI on the Cyber Threat Assessment », les nouvelles techniques d’intelligence artificielle vont considérablement augmenter la menace des ransomwares. 

L’IA est également exploitée par les cybercriminels pour améliorer les techniques d’usurpation d’identité, notamment via des deepfakes imitant les caractéristiques biométriques d’une personne légitime. Ces attaques contournent les systèmes de sécurité biométriques avancés, permettant aux attaquants d’accéder à des informations sensibles, ce qui entraîne des vols d’identité, des fraudes financières telles que les fraudes au président, et des violations de données.

L’intelligence artificielle face aux enjeux politiques

Un rapport de Microsoft Threat Intelligence et OpenAI, publié le 14 février 2024 révèle que des modèles de langage comme ChatGPT peuvent améliorer les cyberattaques. Les deux sociétés ont découvert que des gouvernements tels que la Russie, la Corée du Nord, l’Iran et la Chine soutiennent des hackers utilisant l’IA pour automatiser des tâches et optimiser leurs opérations, notamment pour identifier les contrôles de sécurité à contourner. Par exemple, le groupe Forest Blizzard, associé au renseignement russe, utilise des grands modèles de langage pour comprendre les protocoles de communication par satellite et les technologies d’imagerie radar. Ce groupe a été impliqué dans des cyberattaques majeures, notamment celles liées à la guerre en Ukraine et à l’élection présidentielle américaine de 2016.

En somme, l’IA transforme significativement le paysage des cyberattaques traditionnelles, les rendant plus sophistiquées et difficiles à contrer.

Lucie Speyser

M2 Cyberjustice – Promotion 2023-2024

Sources : 

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.