OpenAI a neutralisé un réseau d’influence russe exploitant ChatGPT pour diffuser de la propagande en Occident, révélant une nouvelle tactique de manipulation algorithmique. En analysant des maladresses linguistiques dans des contenus multilingues, l’entreprise a identifié une opération ciblant les États-Unis, la France, la Pologne et la Turquie, avant de bannir les comptes associés. Cette découverte s’inscrit dans une série de rapports où OpenAI expose des tentatives de détournement de ses outils par des acteurs étatiques pour influencer l’opinion publique.
Une opération repérée grâce à des erreurs de traduction
Le réseau, actif sur Telegram avec des canaux comptant entre 10 000 et 20 000 abonnés chacun, a été démasqué après que ses rédacteurs aient utilisé le terme russe *« Svetofor coalition »* au lieu du terme allemand *« Ampelkoalition »* pour désigner une coalition gouvernementale. Cette erreur a trahi une rédaction initiale en russe, traduite ensuite en allemand via ChatGPT avant d’être diffusée. OpenAI a ainsi pu remonter jusqu’à l’origine des contenus, confirmant l’implication d’acteurs russophones dans cette campagne de désinformation.
Des méthodes similaires à d’autres opérations de propagande
Cette opération n’est pas isolée : depuis mai 2024, OpenAI a publié plusieurs rapports documentant cinq réseaux d’influence utilisant ChatGPT, dont deux russes. Ces campagnes visaient à produire des commentaires multilingues et à traduire des articles de propagande sur des sujets sensibles comme l’invasion de l’Ukraine, le conflit à Gaza, les élections indiennes ou encore la politique intérieure européenne et américaine. Parmi les autres acteurs identifiés figuraient un réseau chinois (Spamouflage) et une entreprise israélienne (STOIC).
Un réseau aux abonnés plus nombreux que les comptes officiels
Malgré la qualité médiocre de ses publications – souvent ignorées sur les plateformes occidentales –, le réseau pro-russe International Burke Institute avait réussi à fédérer des communautés sur Telegram, où ses canaux affichaient des abonnés bien plus nombreux que ses comptes officiels sur les réseaux sociaux traditionnels. Cette stratégie illustre une tendance croissante : l’exploitation des failles des outils d’IA pour contourner les garde-fous des plateformes et toucher des audiences spécifiques, notamment dans des pays où la désinformation trouve un écho particulier.
Un enjeu de transparence et de régulation
OpenAI n’a pas établi de lien direct entre ce réseau et d’autres opérations de désinformation russes déjà documentées, mais cette affaire soulève des questions sur l’efficacité des mécanismes de détection des plateformes face à des tactiques toujours plus sophistiquées. Alors que les acteurs étatiques et non étatiques exploitent les outils d’IA pour amplifier leurs messages, la capacité des entreprises technologiques à identifier et neutraliser ces réseaux en temps réel devient un enjeu central pour la stabilité de l’information mondiale.