La députée britannique Jess Asato a engagé des poursuites judiciaires contre xAI, l'entreprise d'Elon Musk, après avoir été la cible de deepfakes dégradants générés par le chatbot Grok. Cette action en justice, fondée sur le droit à la protection des données et le respect de la vie privée, vise à établir un précédent juridique pour responsabiliser les géants de la technologie face aux abus générés par leurs outils d'intelligence artificielle.
Une réponse judiciaire face à l'inaction des plateformes
Après avoir été visée par des images générées par IA, dont une vidéo simulant une agression sexuelle, Jess Asato a vu ses signalements répétés auprès du réseau social X rester sans réponse. Face à ce refus d'intervention, la parlementaire a choisi la voie judiciaire. Son argumentaire repose sur le non-respect du consentement et l'utilisation illicite de ses données personnelles. Ce litige souligne une faille majeure : l'absence de garde-fous suffisants dans la conception des outils d'IA, malgré les risques connus de détournement à des fins de harcèlement.
L'IA comme vecteur de violences sexistes
Pour la députée, ce combat dépasse son cas personnel. Elle dénonce une tendance systémique où des outils technologiques sont détournés pour dégrader les femmes et les pousser hors de l'espace public numérique. Le phénomène de « nudification » par IA, qui permet de créer des images pornographiques réalistes à partir de photos réelles, est devenu une arme de harcèlement massive. Asato insiste sur le fait que ces créations ne sont pas de simples « jeux » numériques, mais des violations graves causant des traumatismes réels et durables aux victimes.
Vers une régulation stricte des produits numériques
Jess Asato plaide désormais pour une approche de la technologie similaire à celle appliquée aux produits de consommation classiques : une régulation stricte dès la conception. Elle soutient que les entreprises doivent être tenues responsables des dommages causés par leurs produits lorsqu'ils sont prévisibles et évitables. Alors que le gouvernement britannique a déjà commencé à intégrer les chatbots IA dans le cadre de la législation sur la sécurité en ligne, la députée estime que le cadre légal doit évoluer pour garantir que le droit à l'image et le consentement deviennent des normes inaliénables, indépendamment de la puissance financière des entreprises concernées.
Un enjeu de souveraineté démocratique
L'affaire met en lumière la difficulté pour les structures démocratiques de réguler des acteurs technologiques mondiaux. L'absence de réponse directe de la part d'xAI lors de certaines convocations officielles, notamment à New York, illustre une forme d'arrogance que la députée dénonce. Pour Asato, il est impératif que les législateurs s'approprient ces enjeux techniques pour éviter que le développement de l'IA ne se fasse au détriment des droits fondamentaux des citoyens, rappelant que nul ne devrait être au-dessus de la loi.