La société xAI, spécialisée dans l'intelligence artificielle et dirigée par Elon Musk, fait l'objet d'une action en justice majeure aux États-Unis. Une victime de violences sexuelles filmées durant son enfance accuse l'entreprise d'avoir intégré des contenus pédopornographiques dans l'entraînement de ses modèles, notamment Grok, et de faciliter la génération de deepfakes.
Une plainte pour exploitation de contenus illicites
L'assignation déposée devant un tribunal californien repose sur des faits graves : l'utilisation de vidéos de viols, filmées et diffusées en ligne depuis le début des années 2000, pour alimenter les systèmes d'apprentissage automatique de xAI. La plaignante, dont les images ont fait l'objet d'enquêtes par le FBI, dénonce la persistance de ces contenus sur le réseau social X et leur exploitation par les outils technologiques de l'entreprise. Cette procédure prend la forme d'une action collective, permettant à d'autres victimes potentielles de se joindre à la plainte.
Des failles dans la modération et la sécurité des modèles
Au-delà de l'entraînement des modèles, la plainte pointe du doigt l'absence de garde-fous techniques au sein de xAI. Contrairement à d'autres acteurs du secteur de l'IA, l'entreprise est accusée de ne pas avoir instauré de mécanismes de protection suffisants pour empêcher la génération d'images synthétiques à caractère sexuel. Ce n'est pas la première fois que les outils développés sous l'égide d'Elon Musk sont mis en cause : des signalements avaient déjà été effectués concernant la modification non consentie de photos de femmes pour produire des images dénudées.
Les enjeux juridiques et éthiques pour xAI
Face à ces accusations, la direction de xAI et Elon Musk ont systématiquement nié toute responsabilité. L'enjeu de cette procédure judiciaire est désormais de contraindre l'entreprise à cesser l'utilisation de ces données illicites et à renforcer drastiquement ses protocoles de sécurité. Cette affaire souligne les défis croissants liés à la régulation des données d'entraînement des intelligences artificielles et à la responsabilité des plateformes dans la prolifération de contenus générés par IA qui portent atteinte à l'intégrité des personnes.