Jacob Coxon, 27 ans, a quitté Anthropic et l’ensemble du secteur de l’intelligence artificielle, estimant que la course à la puissance des modèles menace l’existence même de l’humanité. Son départ, suivi d’une déclaration publique, relance le débat sur les garde‑fous nécessaires avant d’atteindre une superintelligence.
Départ d’un chercheur clé et ses raisons
Après avoir travaillé chez OpenAI puis chez Anthropic, Coxon a annoncé sur le réseau X qu’il ne pouvait plus soutenir le rythme d’innovation qu’il jugeait irresponsable. Selon lui, les laboratoires d’IA se précipitent vers la création d’une superintelligence sans disposer de moyens fiables pour contrôler ses effets. Il affirme que « aucune autre activité humaine ne pose un tel niveau de danger » et que les équipes internes sont déjà conscientes du risque d’extinction.
Les avertissements d’Anthropic sur le risque d’extinction
La réaction d’Evan Hubinger, responsable de la sûreté chez Anthropic, a confirmé la gravité des propos de Coxon. Hubinger a déclaré que l’entreprise prenait « très sérieusement » l’hypothèse selon laquelle l’IA pourrait tuer tous les humains, en renvoyant à un rapport de risque publié en août. Cette reconnaissance officielle montre que même les acteurs les plus prudents perçoivent une menace existentielle, bien que les stratégies d’atténuation restent limitées.
Implications pour la course à la superintelligence
Le départ de Coxon met en lumière un paradoxe : les dirigeants des géants de l’IA se sentent obligés d’avancer rapidement, de peur que leurs concurrents ne prennent l’avantage en matière de puissance technologique. Cette dynamique de « premier arrivé » renforce la pression pour déployer des modèles toujours plus grands, alors que la compréhension de leurs mécanismes internes demeure incomplète. Le manque de cadres réglementaires internationaux accentue le risque de décisions unilatérales aux conséquences globales.
Réactions de la communauté et perspectives
Le message de Coxon a suscité des réactions variées au sein de la communauté scientifique. Certains chercheurs rappellent les mises en garde formulées depuis plusieurs années, tandis que d’autres insistent sur la nécessité de poursuivre les recherches tout en investissant massivement dans la sécurité de l’IA. Le débat se recentre désormais sur la mise en place de protocoles de vérification, de tests de robustesse et d’une gouvernance partagée, afin d’éviter que la course technologique ne dépasse les capacités de contrôle humain.