Face à l'essor rapide des technologies génératives, le président français Emmanuel Macron a annoncé une offensive législative visant à encadrer l'usage de l'intelligence artificielle, avec une priorité absolue : la protection des enfants. Cette initiative, portée au niveau européen, ambitionne de transformer les recommandations scientifiques en normes contraignantes pour éviter que le secteur ne devienne une zone de non-droit.
Un cadre normatif fondé sur l'expertise scientifique
La stratégie française s'appuie sur le rapport du Conseil de l'intelligence artificielle et du numérique (CIAnum), présenté lors du Forum de Paris pour la paix. Ce document met en lumière les risques d'addiction et l'émergence d'une « économie de la cognition », où les plateformes cherchent à monétiser les facultés psychologiques et émotionnelles des utilisateurs. Parmi les 18 recommandations formulées, les experts préconisent de limiter l'anthropomorphisation des machines et de renforcer les garde-fous contre les contenus incitant à l'automutilation ou aux troubles alimentaires.
Vers une certification des modèles d'IA
L'ambition gouvernementale ne se limite pas à des déclarations d'intention. Clara Chappaz, ambassadrice pour le numérique et l'intelligence artificielle, compare les futurs outils d'IA aux jouets : ils devront être contrôlés et certifiés avant d'être mis entre les mains des plus jeunes. L'objectif est d'intégrer ces exigences de sécurité au sein de l'EU Kids Act, le cadre législatif européen existant, afin d'imposer des obligations strictes aux concepteurs de modèles.
Une concertation internationale sous pression
Pour garantir l'efficacité de ces mesures, la France mise sur une approche collaborative impliquant à la fois les gouvernements et les géants du secteur, tels qu'OpenAI et Anthropic. Si le dialogue est privilégié pour établir des principes communs, le gouvernement n'exclut pas la contrainte. À l'instar du Digital Services Act (DSA), le dispositif envisagé pourrait inclure des sanctions financières proportionnelles au chiffre d'affaires mondial des entreprises contrevenantes. Cette dynamique vise à entraîner les États-Unis et le Canada dans une régulation coordonnée, afin d'éviter une fragmentation des normes à l'échelle mondiale.