Le Conseil de surveillance de Meta a formulé un avertissement sévère concernant l'incapacité des outils actuels de l'entreprise à endiguer la prolifération des contenus générés par intelligence artificielle. Face à la montée des deepfakes, notamment dans des contextes de conflits armés, l'organisme indépendant appelle à une révision profonde des méthodes de détection et d'étiquetage pour protéger l'intégrité de l'information.
Des failles structurelles dans la modération
Le système de Meta repose encore largement sur l'auto-déclaration des utilisateurs et sur des procédures d'examen manuel déclenchées par des signalements. Cette approche s'avère inadaptée face à la vitesse de propagation des contenus synthétiques. Le Conseil souligne que, lorsqu'une vidéo est téléchargée, recadrée ou compressée pour être partagée sur différentes plateformes, les indices techniques permettant d'identifier son origine artificielle disparaissent, rendant la modération réactive quasi inopérante.
L'urgence d'une standardisation technologique
Pour pallier ces lacunes, le Conseil préconise l'adoption généralisée des métadonnées C2PA, un standard permettant de retracer l'historique et la provenance d'un fichier numérique. Actuellement, Meta applique cette norme de manière incohérente, y compris sur ses propres outils de génération. L'organisme demande également la création d'une catégorie spécifique au sein des règles communautaires pour traiter explicitement les deepfakes trompeurs, plutôt que de les traiter comme de la désinformation classique.
La limite de l'indépendance du Conseil
Bien que le Conseil de surveillance exerce une pression croissante sur la direction de Meta, ses recommandations ne constituent pas des injonctions réglementaires. L'entreprise, qui développe elle-même des technologies d'IA générative, se retrouve face à un défi majeur : concilier le développement de ses outils avec la nécessité de garantir l'authenticité des contenus. La direction, par la voix de ses cadres, a reconnu la nécessité d'évoluer, mais la mise en œuvre effective de ces changements reste à la discrétion du géant américain.
Un enjeu de sécurité en période de conflit
La dangerosité de ces outils est exacerbée par les tensions géopolitiques. Le Conseil de surveillance insiste sur le fait qu'en période de guerre, une image truquée ne constitue plus un simple canular, mais un vecteur de propagande capable de fausser la perception des événements en temps réel. La capacité de Meta à sécuriser ses plateformes devient donc un enjeu de responsabilité publique, alors que la technologie de création de faux progresse plus rapidement que les mécanismes de vérification.