Une étude menée par Reporters sans frontières (RSF) met en lumière une faille majeure dans la régulation des agents conversationnels d'intelligence artificielle. Plusieurs outils populaires, dont ChatGPT, Claude et Grok, permettent d'accéder à des contenus issus de médias d'État russes sous sanctions européennes, facilitant ainsi la diffusion de propagande malgré les interdictions en vigueur depuis 2022.
Des garde-fous technologiques inopérants
L'enquête, qui a testé six agents conversationnels, démontre que la plupart de ces systèmes ne parviennent pas à bloquer l'accès aux sources interdites comme RT, Sputnik ou RIA Novosti. Lorsqu'un accès direct est entravé, certains modèles, dont Vibe de la société française Mistral, sont capables de suivre les instructions des utilisateurs pour contourner les blocages via des sites miroirs ou des réseaux sociaux comme Telegram. Si Meta AI se distingue par une conformité plus stricte, la majorité des outils testés fournissent des synthèses d'actualité basées sur ces médias sanctionnés, souvent sans avertir l'utilisateur de l'origine controversée des informations.
L'inadaptation du cadre réglementaire actuel
Cette situation soulève des questions sur l'efficacité du Digital Services Act (DSA) et de l'AI Act. Selon RSF, le cadre législatif européen actuel est inadapté, car il ne classe pas les chatbots comme des outils de diffusion de l'information, mais comme des utilitaires neutres. Cette classification exclut ces systèmes des contrôles les plus rigoureux, laissant un vide juridique sur la nature des données utilisées et structurées par les modèles d'IA. La Commission européenne a rappelé que les opérateurs ont l'obligation de ne pas faciliter la diffusion de contenus sanctionnés, tout en précisant que la responsabilité de l'application incombe aux États membres.
Vers une nouvelle régulation des agents conversationnels
Face à ces constats, RSF a saisi les autorités nationales compétentes et transmis ses conclusions à la Commission européenne. L'organisation plaide pour une évolution profonde de la régulation : les chatbots ne doivent plus être considérés comme de simples outils techniques, mais comme de véritables formats médiatiques. Pour les experts, sans une reconnaissance de ce rôle central dans la circulation de l'information, les sanctions européennes risquent de devenir purement symboliques face à la puissance de traitement et de recherche des modèles d'intelligence artificielle générative.