Des enquêtes récentes mettent en lumière une stratégie sophistiquée de manipulation de l'opinion publique via les modèles de langage (LLM) comme ChatGPT ou Perplexity. En créant de faux instituts de recherche et en utilisant des techniques d'optimisation automatisées, des acteurs étatiques parviennent à injecter des contenus orientés directement dans les sources de référence des intelligences artificielles.
L'émergence du « LLM grooming »
Le mécanisme repose sur la création de sites web factices, tels que le « Hanover Institute for Public Policy », qui se présentent comme des centres de recherche indépendants sans pour autant posséder d'existence légale, d'adresse physique ou de personnel identifié. Ces plateformes publient des volumes massifs de textes générés par IA, conçus pour répondre précisément aux questions sensibles que les utilisateurs posent aux chatbots. En intégrant des fichiers techniques de type « llms.txt », ces sites facilitent leur indexation par les modèles d'IA, qui finissent par les traiter comme des sources d'information fiables.
Un montage financier et technique complexe
Le financement de ces opérations transite par des circuits officiels, comme le démontrent les déclarations déposées auprès du ministère américain de la Justice. L'agence gouvernementale israélienne LaPam a notamment mandaté des intermédiaires, dont la filiale allemande du groupe Havas, pour sous-traiter la production de contenus à la société new-yorkaise Piro Inc. Cette dernière utilise des outils de « Generative Engine Optimization » (GEO) pour garantir que les contenus produits soient privilégiés par les algorithmes, une méthode initialement développée pour le marketing commercial et désormais détournée à des fins d'influence politique.
La porosité des systèmes d'IA
Les tests effectués par plusieurs médias d'investigation confirment l'efficacité de cette stratégie : des questions neutres soumises à des assistants conversationnels populaires ont conduit ces derniers à citer des rapports issus de ces sites fictifs. L'automatisation permet une cadence de production impossible à tenir pour une rédaction humaine, inondant le web de contenus qui brouillent la lecture des faits et des chiffres relatifs au conflit à Gaza. L'utilisation répétée de données spécifiques, intégrées dans des contextes variés, vise à créer des corrélations statistiques que les systèmes d'apprentissage automatique finissent par assimiler.
Une tendance globale à l'influence numérique
Ces révélations s'inscrivent dans une dynamique plus large d'investissements massifs dans la communication numérique. Des contrats de plusieurs dizaines de millions de dollars ont été identifiés pour la création de sites destinés à influencer les chatbots, impliquant parfois des acteurs ayant exercé des fonctions politiques de haut niveau. La rapidité avec laquelle de nouveaux sites, comme « IsraelFact », apparaissent dès qu'une structure précédente est exposée, témoigne de la résilience et de la réplication industrielle de ces dispositifs de désinformation automatisée.