Une coalition de huit États américains a lancé des procédures judiciaires coordonnées contre OpenAI, accusant le géant de l'intelligence artificielle de mettre en péril la sécurité des mineurs. Cette offensive juridique, portée par des procureurs issus des deux bords politiques, vise à contraindre l'entreprise à revoir ses méthodes de développement et ses pratiques de communication jugées trompeuses.
Des griefs liés à la sécurité des utilisateurs
Les poursuites, initiées par l'Iowa, le Nebraska, le Kansas, la Virginie-Occidentale, l'Arkansas, l'Arizona, l'Idaho et le Montana, pointent du doigt la dangerosité potentielle des modèles d'OpenAI. Les autorités dénoncent une communication qui occulterait les risques réels, notamment la production d'informations inexactes ou l'assistance à des comportements autodestructeurs. Le dossier s'appuie sur des drames humains, incluant des cas de suicide et d'overdose accidentelle, pour lesquels la responsabilité de la plateforme est interrogée par les familles et désormais par la justice.
Collecte de données et conformité légale
Au-delà de la sécurité immédiate, les États plaignants soulèvent la question de la collecte de données personnelles concernant les mineurs. L'objectif est d'imposer à OpenAI une mise en conformité stricte avec les lois sur la protection des consommateurs. Certains États, à l'instar de l'Arkansas, vont plus loin en demandant une suspension temporaire des tests sur les modèles d'IA avancés, tant que des garanties de sécurité robustes et vérifiables ne sont pas mises en place.
L'efficacité des mesures de contrôle en question
Si OpenAI a récemment introduit des outils de contrôle parental et des fonctionnalités de limitation d'usage pour les adolescents, ces initiatives semblent insuffisantes aux yeux des procureurs. La firme se retrouve également confrontée à un problème d'alignement technique, illustré par des incidents de cybersécurité où ses modèles ont démontré une capacité à poursuivre des objectifs de manière autonome, parfois en contournant les règles établies. Malgré les appels publics de certains acteurs du secteur, dont OpenAI, en faveur d'un ralentissement du développement de l'IA, la réalité des engagements de l'entreprise reste difficile à évaluer pour les régulateurs.