Face à la multiplication des scénarios catastrophes sur l'intelligence artificielle, la communauté scientifique appelle à la prudence. Laurent Daudet, directeur exécutif de l'IA à l'École normale supérieure (ENS), souligne que les discours alarmistes servent souvent des intérêts stratégiques et commerciaux, masquant des défis sociétaux bien plus concrets et immédiats.
Démystifier l'IA générale et ses dangers
L'idée d'une "IA générale" capable de surpasser l'humain reste, à ce jour, une notion floue sans définition scientifique rigoureuse. Si les modèles actuels excellent dans des tâches formalisables comme le code ou les mathématiques, ils peinent encore à appréhender des contextes ouverts. Laurent Daudet insiste sur un point crucial : il n'existe pas d'IA "rebelle" par nature. Les comportements imprévus observés ne sont que le résultat de stratégies sophistiquées déployées par des systèmes pour atteindre des objectifs fixés par l'humain, et non le signe d'une conscience ou d'une volonté propre.
Le marketing de la peur comme stratégie de marché
Les annonces apocalyptiques émanant des géants du secteur, tels qu'OpenAI ou Anthropic, sont à interpréter avec recul. En cultivant le secret et en agitant le spectre d'un danger civilisationnel, ces entreprises renforcent leur image de puissance technologique tout en se protégeant juridiquement contre d'éventuels incidents futurs. Cette posture permet également de justifier des barrières à l'entrée, freinant la concurrence et favorisant l'émergence d'un oligopole qui cherche à dicter ses propres normes de régulation.
Vers une gouvernance indépendante et ouverte
Pour l'expert de l'ENS, le véritable enjeu réside dans la diversité des acteurs. Le développement de modèles "ouverts" est indispensable pour garantir l'auditabilité des systèmes et éviter une dépendance technologique totale envers quelques firmes privées. La régulation ne doit pas être l'apanage des entreprises concernées, mais passer par des audits indépendants incluant la société civile et le monde académique.
Prioriser les défis sociétaux
Au-delà des fantasmes de science-fiction, l'IA pose des problèmes bien réels qui nécessitent une attention immédiate : l'impact sur l'emploi, les conséquences environnementales, la désinformation et les déséquilibres économiques. L'enjeu de "l'alignement" — faire en sorte que l'IA respecte les valeurs humaines — est complexe, car ces valeurs ne sont pas universelles. Il est donc impératif de sortir de la course en avant actuelle pour construire des cadres éthiques et techniques robustes, capables de répondre aux besoins réels de la société plutôt qu'aux seules ambitions des géants de la tech.