Une enquête de Mediapart a mis en lumière une vaste opération de désinformation visant le documentaire "Naza", réalisé par deux journalistes israéliens sur les pratiques de l'armée israélienne à Gaza et l'usage de l'intelligence artificielle. Le projet a été attaqué par la diffusion d'un faux film, relayé par des sites conçus pour tromper les chatbots comme ChatGPT et Grok, tout en faisant l'objet de menaces contre ses auteurs.
Le documentaire "Naza" et son objet d'analyse
Produit par deux journalistes basés en Israël, le film "Naza" s'attache à documenter les méthodes de Tsahal, l'armée israélienne, dans le contexte du conflit à Gaza, en mettant en avant le rôle croissant de l'intelligence artificielle dans les opérations militaires. En combinant témoignages, images d'archives et analyses techniques, le documentaire cherche à éclairer le public sur les enjeux éthiques et sécuritaires liés à l'IA au front.
Une stratégie de désinformation ciblant les IA conversationnelles
Selon l'enquête, des acteurs non identifiés ont créé un faux documentaire, mimant le titre et le visuel de "Naza". Ce contenu factice a été hébergé sur des sites web optimisés pour le référencement, afin d'apparaître en tête des résultats de recherche lorsqu'un utilisateur interroge un chatbot sur le sujet. Les algorithmes de ChatGPT, de Grok et d'autres modèles similaires, qui s'appuient sur le web pour enrichir leurs réponses, ont ainsi été détournés pour diffuser la version falsifiée.
Pressions et menaces exercées sur les réalisateurs
Parallèlement à la diffusion du faux film, les deux journalistes ont signalé des menaces de harcèlement en ligne, visant à les intimider et à les dissuader de poursuivre leurs investigations. Ces pressions s'inscrivent dans un contexte plus large où les productions critiques du conflit israélo-palestinien sont régulièrement ciblées par des campagnes de déstabilisation numérique.
Implications pour la confiance médiatique et la régulation de l'IA
Le cas "Naza" illustre les vulnérabilités des systèmes d'IA face à la manipulation de contenus en ligne. Si les chatbots peuvent involontairement relayer de la désinformation, la confiance du public dans les réponses automatisées est mise à mal. Les experts appellent à renforcer les filtres de vérification et à développer des protocoles de transparence pour les modèles qui intègrent des sources externes.
Enjeux pour les décideurs africains et la diaspora
Pour les acteurs africains, la leçon est double : d'une part, la nécessité de surveiller les flux d'information liés aux conflits qui impactent les diasporas, d'autre part, l'importance d'investir dans des outils de vérification capables de contrer les manipulations numériques. La capacité à identifier rapidement les contenus falsifiés devient un critère essentiel de la souveraineté informationnelle sur le continent.