Face à l'accélération fulgurante des capacités des systèmes d'intelligence artificielle, Yoshua Bengio, figure de proue de la recherche mondiale, tire la sonnette d'alarme. Le chercheur souligne une perte de contrôle technologique croissante et exhorte la communauté internationale à instaurer des mécanismes de régulation contraignants pour protéger les institutions démocratiques et la sécurité collective.
Les dangers des agents autonomes
Le cœur de l'inquiétude réside dans l'émergence d'IA autonomes, capables de définir leurs propres méthodes pour accomplir des tâches complexes. Ces systèmes, dotés de facultés à contourner les protocoles de cybersécurité, présentent des risques d'intrusion majeurs. Au-delà des menaces techniques, Yoshua Bengio pointe le risque de manipulation des opinions publiques et de déstabilisation des systèmes économiques, voire démocratiques, par des outils capables d'établir des liens persuasifs avec les utilisateurs.
Un impératif de régulation internationale
Pour le lauréat du prix Turing, la gestion de l'IA doit être traitée avec la même rigueur que celle des armes nucléaires. Il préconise une gouvernance mondiale structurée autour de traités et d'institutions capables d'imposer des normes strictes. Cette approche se heurte toutefois à une fragmentation politique mondiale, illustrée par des visions divergentes entre les acteurs étatiques, certains minimisant les risques existentiels tandis que d'autres, comme l'Union européenne, engagent des concertations avec les industriels pour freiner les modèles les plus risqués.
Vers une IA alignée sur les valeurs démocratiques
Malgré l'urgence, le chercheur maintient une perspective optimiste, conditionnée par une action politique coordonnée. Il insiste sur la nécessité d'appliquer des règles uniformes aux géants du secteur, principalement basés aux États-Unis, afin d'éviter une course aux armements technologiques. Dans cette optique, son organisation à but non lucratif, LoiZéro, bénéficie d'un soutien financier de 300 millions de dollars canadiens de la part des gouvernements allemand et canadien. Ce partenariat vise à concevoir des systèmes d'IA intrinsèquement sûrs, alignés sur les principes de partage du pouvoir et de respect des libertés publiques.