OpenAI a identifié et stoppé deux réseaux d’influence étrangers qui s’appuyaient sur son modèle ChatGPT pour fabriquer et diffuser de fausses informations sur des conflits géopolitiques. L’une des campagnes, d’origine russe, visait à ternir l’image de l’Ukraine et de dirigeants latino‑américains, tandis que l’autre, attribuée à l’Iran, diffusait de faux articles sur les tensions entre Washington et Téhéran.
Opération « Dark Clark » : une campagne russe ciblant l’Amérique latine
Selon le rapport d’OpenAI, les acteurs russes ont exploité ChatGPT pour rédiger des messages destinés à décrédibiliser l’Ukraine et à semer le doute sur certains responsables politiques d’Amérique latine. Parmi les tactiques relevées, on compte la diffusion sur TikTok d’un enregistrement audio falsifié attribué au consul ukrainien en Équateur, ainsi que l’envoi d’e‑mails frauduleux à des écoles péruviennes pour les inciter à organiser des manifestations pro‑Ukraine. OpenAI a classé cette opération au niveau 5 sur 6 de son barème d’impact, soulignant que certaines allégations n’ont pas pu être vérifiées de façon indépendante.
« Bogus Bylines » : la désinformation iranienne autour du conflit USA‑Iran
La seconde campagne, nommée « Bogus Bylines », aurait été orchestrée par des groupes liés à l’Iran. Les opérateurs ont utilisé ChatGPT pour peaufiner des articles destinés à des sites d’information en ligne, en les adaptant aux exigences rédactionnelles de chaque plateforme. Les textes, signés par sept pseudonymes se présentant comme des journalistes occidentaux, ont été publiés dans plus d’une douzaine de médias depuis juillet 2025, totalisant près de cent articles. Le contenu visait à manipuler l’opinion publique sur le conflit entre les États‑Unis et l’Iran, en présentant des récits biaisés et non vérifiés.
Implications pour la gouvernance de l’IA et la lutte contre la manipulation en ligne
Ces deux cas illustrent une évolution des stratégies de désinformation : l’insertion de contenus trompeurs dans des médias établis peut offrir une portée supérieure à celle des campagnes purement basées sur de faux comptes sociaux. OpenAI a indiqué renforcer ses mécanismes de détection et de prévention afin de contrer les détournements de ses modèles. Le démantèlement de ces opérations souligne la nécessité pour les acteurs publics et privés de développer des cadres de gouvernance de l’intelligence artificielle capables de répondre rapidement aux usages malveillants, tout en préservant la liberté d’expression et l’innovation technologique.