Depuis le début de 2024, trois figures majeures de la recherche en IA ont quitté leurs postes chez Anthropic, Google DeepMind et OpenAI, invoquant la crainte que leurs créations puissent menacer la survie de l’humanité d’ici la fin de la décennie. Leurs départs, très médiatisés, traduisent une inquiétude grandissante au sein même des laboratoires les plus avancés.
Départs successifs de leaders d’Anthropic, DeepMind et OpenAI
Jacob Coxon, ancien chercheur senior d’Anthropic, a annoncé sa démission en 2024, précisant que les scénarios de perte de contrôle de l’IA le préoccupaient au point d’interrompre son travail. Quelques mois plus tard, Josh Engels, directeur de la recherche chez Google DeepMind, a suivi la même trajectoire, rappelant que les modèles actuels évoluaient plus rapidement que les cadres de gouvernance. En fin d’année, Daniel Kokotajlo, responsable de la sécurité chez OpenAI, a également quitté l’entreprise, soulignant que les mécanismes de prévention étaient insuffisants face à des systèmes capables d’auto‑amélioration.
Les avertissements des « doomers » de l’IA
Ces trois ingénieurs se sont auto‑déclarés « doomers », c’est‑à‑dire des spécialistes qui anticipent un scénario catastrophique lié à l’intelligence artificielle. Leur message commun, formulé en une phrase concise, affirme que les technologies qu’ils ont contribué à développer pourraient « anéantir l’humanité d’ici la fin de la décennie ». Cette prise de parole, loin d’être isolée, s’inscrit dans un débat plus large parmi les chercheurs qui redoutent que la puissance de calcul et la capacité d’apprentissage des modèles ne dépassent la capacité de contrôle humaine.
Réactions institutionnelles : l’appel du Vatican à « désarmer » l’IA
En mai 2024, le pape Léon XIV, dans son encyclique *Magnifica humanitas*, a comparé le danger de l’IA à celui du nucléaire, invitant les gouvernements et les acteurs du secteur à « désarmer » ces systèmes avant qu’ils ne deviennent incontrôlables. Cette analogie a renforcé la visibilité du débat, incitant certains législateurs à envisager des cadres réglementaires plus stricts et à financer des programmes de recherche sur la sécurité de l’IA.
Enjeux pour les décideurs et la régulation
Les départs de ces experts soulignent l’urgence pour les autorités publiques de définir des normes de transparence, de test de robustesse et de responsabilité. Alors que les grandes entreprises continuent d’investir massivement dans des modèles toujours plus performants, les appels à la prudence se multiplient, notamment dans les forums internationaux où la coopération transfrontalière est jugée indispensable pour éviter une course aux armements numériques. Le défi consiste à concilier innovation et sécurité, afin de garantir que les bénéfices de l’IA ne soient pas éclipsés par des risques existentiels.