La plateforme Outlier, pilier de l'entraînement des modèles d'intelligence artificielle pour des géants comme Meta ou OpenAI, fait face à une offensive juridique majeure en Europe. Plusieurs organisations, dont l'association noyb, accusent sa maison mère, l'américain Scale AI, de mettre en place un système de surveillance disproportionné et illégal à l'encontre de ses 900 000 contributeurs.
Des pratiques de traçage numérique contestées
Au cœur des plaintes déposées en France, en Italie, aux Pays-Bas et en Autriche, figure l'utilisation de traceurs tiers sur la plateforme. Selon les analyses techniques menées par noyb et ses partenaires, des outils de suivi appartenant à des entreprises comme Facebook, LinkedIn ou Datadog s'activeraient dès la connexion des travailleurs. Ces dispositifs transmettraient en continu des données sensibles, telles que l'adresse IP et des identifiants uniques, permettant un profilage publicitaire qui dépasse largement le cadre de la simple exécution des tâches d'annotation.
La biométrie au centre des critiques
Outre le traçage, le recours à la société Persona pour la vérification d'identité est pointé du doigt. Scale AI impose aux contributeurs de fournir des données biométriques, incluant des vidéos de leur visage et des documents officiels, sous couvert de lutte contre la fraude et l'usurpation d'identité. Les plaignants dénoncent un système disproportionné, soulignant que Persona collecte également des informations sur les appareils, la géolocalisation et les données de crédit, sans base légale suffisante au regard du Règlement général sur la protection des données (RGPD).
Un bras de fer sur la transparence et le droit du travail
Face à ces accusations, Scale AI rejette les allégations, qualifiant les rapports d'inexacts. L'entreprise soutient que ses pratiques sont transparentes, que les contributeurs y consentent et que ces outils sont indispensables pour sécuriser les données confidentielles de ses clients. À l'inverse, les chercheurs du groupe DiPLab estiment que ce modèle de gestion des travailleurs, basé sur une surveillance constante, serait jugé inacceptable dans tout autre secteur d'activité au sein de l'Union européenne. Les plaignants réclament désormais l'ouverture d'enquêtes approfondies par les autorités de protection des données, ouvrant la voie à d'éventuelles sanctions financières pour l'entreprise américaine.