Comment ChatGPT est exploité par les pirates de la Russie, la Chine, l'Iran et la Corée du Nord

Les cybercriminels ont massivement adopté l’IA générative. D’après Europol, les pirates se servent des outils basés sur l’intelligence artificielle pour faciliter leurs activités depuis le début de l’année dernière. Les chercheurs du Microsoft Threat Intelligence, la division du groupe américain consacrée à la réponse aux cyberattaques, abondent dans le même sens.

Dans un rapport signé avec OpenAI, les chercheurs de Microsoft révèlent que de nombreux hackers financés par des gouvernements exploitent le chatbot pour repérer les failles d’un système, bloquer les mécanismes de défense des antivirus et orchestrer des attaques de phishing, ou hameçonnage en français. Pour ces pirates, ChatGPT est un « autre outil de productivité » qui permet d’affiner et d’améliorer leurs attaques.

Armés des modèles de langage, les pirates récoltent des renseignements sur leurs victimes, se font aider dans le codage de logiciels malveillants et s’affranchissent de la barrière de la langue. De nombreuses attaques reposent en effet sur les communications avec des victimes dans une langue étrangère. Grâce à ChatGPT et consorts, les hackers peuvent rédiger des messages convaincants sans se faire trahir par une syntaxe ou une orthographe approximative.

À lire aussi : IA, phishing, QR Code, deepfake… voici les grandes menaces qui planent sur 2024

Quels gangs de pirates exploitent ChatGPT dans leurs attaques ?

Le rapport détaille quels gangs se servent de l’IA générative d’OpenAI pour peaufiner leurs tactiques. Microsoft évoque d’abord Forest Blizzard, un gang de pirates russes mieux connu sous le nom de
Fancy Bear. Spécialisés dans l’espionnage, les hackers sont mandatés par le Kremlin. Ils sont notamment connus pour avoir piraté le Comité National Démocrate (DNC) des États-Unis lors de l’élection présidentielle de 2016.

« Les opérations de Forest Blizzard jouent un rôle de soutien important pour la politique étrangère et les objectifs militaires de la Russie à la fois en Ukraine et dans la communauté internationale au sens large », indique Microsoft.

Les cybercriminels russes ont apparemment utilisé l’IA pour mener des recherches sur « diverses technologies de satellite et de radar ». En conversant avec le chatbot, les espions cherchaient « à comprendre les protocoles de communication par satellite, les technologies d’imagerie radar et les paramètres techniques spécifiques ». Ces recherches sont probablement liées à la guerre en Ukraine, avance Microsoft. Ils ont également réclamé l’aide de ChatGPT pour rédiger des scripts et automatiser certaines opérations.

Les pirates nord-coréens d’Emerald Sleet ont aussi été repérés en pleine utilisation de ChatGPT. Les hackers, financés directement par le gouvernement de Kim Jong-un, se sont d’abord servis de l’IA pour « mieux comprendre les vulnérabilités signalées publiquement », vraisemblablement afin de les exploiter dans leurs attaques. Ils se sont aussi aidés du modèle linguistique pour rédiger des messages de phishing. Les pirates se sont concentrés sur le spear phishing, une forme avancée de phishing qui cible spécifiquement des individus ou des organisations avec des techniques d’ingénierie sociale.

Même son de cloche du côté des hackers iraniens de Crimson Sandstorm, qui exploitent ChatGPT pour « générer divers courriels d’hameçonnage » conçus pour piéger les féministes à la demande de l’Iran. Enfin, les pirates chinois des groupes Charcoal Typhoon et Salmon Typhoon ont également voulu tirer profit de l’essor de l’IA générative. Les pirates, à la solde de Pékin, se sont par exemple appuyés sur le robot conversationnel pour « comprendre des technologies, des plates-formes et des vulnérabilités spécifiques », « générer et affiner des scripts », ou obtenir des traductions.

Sans surprise, OpenAI a pris des mesures pour empêcher les cybercriminels de converser avec ChatGPT. La start-up précise que les comptes ChatGPT utilisés par les gangs de pirates ont été désactivés. Microsoft ajoute aussi que des mesures ont été prises pour « perturber les actifs associés » aux hackers.