Une action collective a été déposée devant un tribunal californien contre xAI, la start-up spécialisée en intelligence artificielle fondée par Elon Musk. La plainte accuse l'entreprise d'avoir intégré des contenus pédopornographiques dans les bases de données servant à l'entraînement de son modèle Grok, exposant ainsi la firme à des poursuites judiciaires majeures.
Des accusations liées à l'exploitation de données sur X
La plaignante, une victime d'abus sexuels durant son enfance, affirme que ses propres images, diffusées en ligne depuis le début des années 2000, ont été utilisées par l'IA. Le cœur du litige réside dans la méthode d'entraînement de Grok, qui puise massivement dans les publications du réseau social X. Selon les avocats de la plaignante, cette pratique permet à l'algorithme d'ingérer des contenus illicites, malgré les affirmations de xAI concernant l'exclusion des images sensibles et violentes de ses processus d'apprentissage.
Risques juridiques et financiers pour xAI
L'action en justice s'appuie sur une législation américaine de 2018 permettant aux victimes d'abus sexuels sur mineurs de poursuivre les entités qui possèdent, produisent ou distribuent des contenus pédopornographiques. Si les faits sont avérés, xAI pourrait faire face à de lourdes sanctions financières et au versement de dommages et intérêts conséquents. La plainte souligne également la crainte que l'entreprise n'ait pas seulement utilisé ces images pour l'entraînement, mais qu'elle les ait activement stockées au sein de ses serveurs.
Une exigence de transparence et de suppression
Au-delà des réparations, les plaignants exigent que xAI procède à une purge systématique de ses bases de données en supprimant tous les contenus pédopornographiques identifiés par les organisations internationales de protection de l'enfance. Cette procédure judiciaire constitue une première : si la justice donne raison aux victimes, cela confirmerait officiellement la présence de tels contenus dans le catalogue de données de la start-up. L'affaire met en lumière les failles éthiques et techniques dans la gouvernance des données massives utilisées pour le développement des modèles d'intelligence artificielle générative.