Un nouveau rapport du Tech Transparency Project (TTP) met en lumière la persistance de publicités exploitant des images d'abus sexuels sur mineurs (CSAM) sur Facebook et Instagram. Malgré des alertes répétées et des injonctions gouvernementales, notamment en Inde, ces contenus générés par intelligence artificielle continuent de circuler, posant un défi critique aux systèmes de modération de Meta.
Des failles persistantes dans la modération publicitaire
Le rapport du TTP identifie 332 publicités contenant du matériel pédopornographique diffusées au cours des dix derniers mois. Plus préoccupant encore, 78 de ces publicités ont été publiées en Inde après que le gouvernement a formellement ordonné à l'entreprise de supprimer tout contenu de cette nature. Le mécanisme, principalement automatisé, semble incapable de bloquer ces annonces qui utilisent des images d'enfants, parfois manipulées par IA pour simuler des actes sexuels explicites, afin de promouvoir des applications tierces de génération de contenu.
L'inefficacité des outils de signalement
L'enquête souligne une défaillance structurelle dans la réponse de Meta. Lorsque le TTP a tenté de signaler 84 publicités diffusées en Inde via les outils officiels de la plateforme, 43 d'entre elles ont été jugées conformes aux normes publicitaires par les systèmes de l'entreprise. Cette situation contredit les déclarations de Meta, qui affirme renforcer continuellement ses dispositifs de détection. De plus, plusieurs publicités sont restées actives même après que le TTP a directement informé l'entreprise de leur existence, illustrant une réactivité jugée insuffisante par les observateurs.
Vers une judiciarisation de la responsabilité des plateformes
Face à ce constat, la pression s'accentue sur le plan juridique. En Inde, l'organisation Just Rights for Children a déposé une requête auprès de la Cour suprême pour exiger que les réseaux sociaux soient contraints d'identifier et de signaler systématiquement les auteurs de ces contenus aux autorités locales. Les experts en cybersécurité, comme Shikha Goel du Bureau de la cybersécurité de Telangana, pointent la complexité de la lutte contre ces réseaux qui exploitent la porosité entre différentes plateformes numériques pour échapper aux poursuites.
L'implication des partenaires publicitaires
Le rapport met également en cause le rôle des agences partenaires de Meta en Chine, qui acheminent des volumes massifs de publicités vers les plateformes du groupe. Ces intermédiaires, dont certains sont liés à la diffusion des publicités incriminées, n'ont pas répondu aux sollicitations des chercheurs. Si Meta soutient que ses systèmes sont en constante évolution pour contrer des criminels déterminés, la récurrence de ces contenus soulève des questions fondamentales sur la responsabilité des géants de la tech dans la protection des mineurs face aux dérives de l'intelligence artificielle.