Le géant américain OpenAI s'appuie sur des centaines de prestataires humains pour relire les conversations des utilisateurs de ChatGPT dans le cadre du « Projet Lily ». Cette pratique, destinée à affiner les performances des modèles conversationnels, soulève des questions majeures sur la protection de la vie privée des utilisateurs face à l'automatisation.
Les limites techniques du filtrage automatique
Pour limiter l'exposition des données sensibles, OpenAI intègre un outil nommé « Privacy Filter ». Ce modèle d'intelligence artificielle est conçu pour identifier et occulter automatiquement les informations personnellement identifiables avant toute relecture humaine. Toutefois, l'entreprise admet que ce dispositif n'est pas infaillible. Le filtre peine notamment à traiter les identifiants atypiques, les références privées ambiguës ou les contextes limités, augmentant ainsi le risque que des données confidentielles soient exposées aux yeux des prestataires.
La procédure pour sécuriser vos échanges
La plateforme active par défaut l'option permettant l'utilisation des données pour l'entraînement de ses modèles. Pour restreindre cet accès, les utilisateurs peuvent modifier leurs préférences via les paramètres de leur compte. En accédant à la section « Gestion des données », il est possible de désactiver l'option « Améliorer le modèle pour tous ». Cette manipulation permet de sanctuariser les futures interactions, bien qu'elle ne soit pas rétroactive : les conversations antérieures à cette modification restent intégrées dans le processus d'analyse d'OpenAI.
Un enjeu de transparence pour les utilisateurs
Alors qu'OpenAI revendique désormais plus d'un milliard d'utilisateurs, la révélation de ces pratiques de relecture humaine souligne le décalage entre la perception d'une IA autonome et la réalité opérationnelle de son développement. Si l'intervention humaine est présentée comme un levier indispensable à l'amélioration technique, elle impose aux citoyens et aux professionnels une vigilance accrue sur la nature des informations partagées avec l'outil. La maîtrise des paramètres de confidentialité devient, dans ce contexte, une compétence essentielle pour tout utilisateur soucieux de la protection de ses données personnelles et professionnelles.