Le 14 octobre, huit États américains ont engagé une procédure judiciaire contre OpenAI, reprochant à son chatbot ChatGPT d’exposer les jeunes à des réponses potentiellement dangereuses et de ne pas offrir de protections fiables.
Une coalition de huit États lance des poursuites
Les procureurs généraux de huit juridictions américaines ont déposé une plainte commune, marquant une escalade notable dans le débat sur la responsabilité des fournisseurs d’intelligence artificielle. Chaque État a ainsi initié une action en justice, invoquant la nécessité de protéger les mineurs face à des outils numériques dont les mécanismes de filtrage et de modération seraient jugés insuffisants. La plainte, déposée le 14 octobre, constitue l’une des premières tentatives coordonnées au niveau étatique de contraindre un acteur majeur du secteur de l’IA à renforcer ses garde-fous.
Les accusations portées contre les réponses de ChatGPT
Les autorités reprochent à ChatGPT de fournir aux enfants des réponses qui pourraient les mettre en danger, que ce soit par la diffusion d’informations inappropriées, de conseils risqués ou d’incitations à des comportements préjudiciables. Selon la plainte, les mécanismes de protection intégrés au service – notamment les filtres de contenu et les avertissements – seraient « peu fiables » et ne garantiraient pas une barrière efficace contre les requêtes à caractère sensible. Les États demandent donc à OpenAI de démontrer la robustesse de ses systèmes de modération et d’adopter des mesures plus strictes pour empêcher l’accès des mineurs à des réponses jugées dangereuses.
Enjeux pour la régulation de l’IA et la protection des mineurs
Cette action collective intervient dans un contexte où les législateurs américains et les régulateurs internationaux intensifient leurs efforts pour encadrer l’usage de l’intelligence artificielle, notamment auprès des publics vulnérables. Si les États obtiennent gain de cause, OpenAI pourrait être contraint de revoir ses politiques de vérification d’âge, d’améliorer ses algorithmes de filtrage et de rendre publiques les méthodologies de contrôle de contenu. Au-delà du cas OpenAI, la procédure pourrait créer un précédent juridique incitant d’autres fournisseurs d’IA à anticiper des exigences similaires, renforçant ainsi la protection des enfants dans l’écosystème numérique. Les parties restent en instance, et le suivi de cette affaire sera déterminant pour mesurer l’impact des décisions judiciaires sur les pratiques de conception et de déploiement des chatbots à l’échelle mondiale.