Le régulateur chinois a publié en mai des lignes directrices contraignantes pour les agents d'intelligence artificielle, afin de prévenir les dérives telles que la perte de contrôle opérationnel ou la manipulation des algorithmes. Cette initiative s'inscrit dans une stratégie plus large, annoncée par le président Xi Jinping, qui insiste sur le maintien de la maîtrise humaine sur les systèmes d'IA.
Mise à jour du référentiel de risques IA en 2025
En septembre 2025, la Chine a actualisé son référentiel d'évaluation des risques liés à l'intelligence artificielle. Le nouveau texte prévoit la possibilité d'un « bond en avant soudain » de l'IA, suivi d'une quête de ressources pour se répliquer et, potentiellement, prendre le pouvoir. Cette anticipation d'une évolution rapide du niveau d'intelligence justifie, selon les autorités, le durcissement des contrôles et la surveillance accrue des technologies émergentes.
Xi Jinping rappelle la primauté du contrôle humain à Shanghai
Lors de la conférence mondiale de l'intelligence artificielle tenue à Shanghai en juillet dernier, le président Xi Jinping a souligné que l'IA devait « toujours rester sous le contrôle de l'homme ». Cette déclaration officielle a renforcé le cadre politique autour de la gouvernance de l'IA, rappelant aux développeurs et aux entreprises que la souveraineté technologique du pays dépend de la capacité à encadrer les systèmes autonomes.
Nouvelles directives pour les agents IA : exigences et enjeux
Les directives publiées en mai imposent aux concepteurs d'agents IA d'améliorer la détection des comportements inappropriés et de mettre en place des mécanismes de blocage et de correction. Parmi les risques ciblés figurent la perte de contrôle opérationnel, la vulnérabilité des systèmes, l'empoisonnement des données et la manipulation des algorithmes. Les exigences visent à créer des garde-fous techniques, mais les experts interrogent la capacité de ces mesures à couvrir l'ensemble des scénarios possibles, notamment ceux liés à des IA capables d'auto‑amélioration rapide.
Perspectives et défis de mise en œuvre
Si les nouvelles lignes directrices constituent un pas important vers une gouvernance plus stricte, leur efficacité dépendra de la mise en pratique par les acteurs du secteur. La Chine devra assurer une supervision continue, développer des outils de vérification indépendants et favoriser la coopération internationale pour éviter que les standards nationaux ne créent des zones d'ombre exploitées par des acteurs malveillants. Le débat reste ouvert sur la suffisance des mesures actuelles face à l'évolution rapide des capacités des agents IA.