Les États-Unis ont démantelé une ferme de bots russes

Le ministère de la Justice des États-Unis vient de lever le voile sur une opération d’envergure à l’encontre d’une « ferme de robots de médias sociaux améliorée par l’IA » sous le contrôle de la Russie. L’infrastructure est à l’origine de 968 comptes X (ex-Twitter) taillés pour propager de fausses informations sur la toile « à grande échelle ». Les deux noms de domaine exploités ont été saisis par les agents du FBI.

La ferme était essentielle à la propagande russe. Parmi les fake news partagées par les robots du Kremlin, on trouve de nombreux sujets relatifs à la guerre en Ukraine. L’opération était entièrement gérée par le rédacteur en chef adjoint de Russia Today, la chaîne de propagande de la Russie. La ferme de bots a servi à propager de la désinformation depuis 2022 dans « un certain nombre de pays, y compris les États-Unis, la Pologne, l’Allemagne, les Pays-Bas, l’Espagne, l’Ukraine et Israël ».

À lire aussi : « La plus puissante » cyberattaque : comment l’Ukraine riposte contre la Russie en Crimée

L’IA au cœur de la propagande russe

Dans le cadre de la campagne de propagande, les agents russes se sont servis d’un logiciel reposant sur l’intelligence artificielle, baptisé Meliorator. En s’appuyant sur l’IA, ils ont pu concevoir des comptes factices qui paraissent authentiques « en masse ». Les bots ont ainsi pu échapper à la détection. Dans la plupart des cas, les comptes prétendaient appartenir à des individus résidant sur le sol américain.

Meliorator dispose d’une pléthore de fonctionnalités clés pour les agents de la désinformation russe. Après enquête, le FBI a découvert que le logiciel est capable d’écrire des publications convaincantes et de « créer des personnages fictifs en ligne représentant un certain nombre de nationalités ». Par la suite, l’IA peut modifier, revoir ou corriger les publications et les interactions en fonction des messages que l’utilisateur veut véhiculer.

Chaque robot avait un profil unique avec une identité inspirée par un archétype particulier. Le robot disposait d’informations biographiques, d’idéologies politiques, d’un lieu de résidence pour interpréter au mieux le personnage. D’après le FBI, la Russie avait « l’intention d’utiliser cette ferme de robots pour diffuser de la désinformation étrangère générée par l’IA », afin de « saper nos partenaires en Ukraine et influencer les récits géopolitiques favorables au gouvernement russe ».

Sur demande du ministère de la Justice, le réseau social X a accepté de bannir tous les comptes identifiés comme factices pour violation des conditions d’utilisation. Le FBI estime que les développeurs de Meliorator ont l’intention d’étendre la compatibilité de l’IA à d’autres réseaux sociaux. On peut craindre que le logiciel serve à concevoir de faux profils Facebook ou Instagram.

La propagande fait partie des armes préférées de l’arsenal russe. La Russie se sert d’ailleurs massivement de fausses informations pour tenter de déstabiliser le gouvernement de l’Ukraine et pousser les Ukrainiens à la révolte. Moscou a également orchestré des opérations de propagande en France à l’occasion des élections législatives et des Jeux olympiques de Paris. L’événement sportif devrait attirer l’attention des cybercriminels russes, des espions et des spécialistes de la propagande.