Jacob Coxon, ancien chercheur chez Anthropic, a quitté l’entreprise en dénonçant la vitesse d’évolution de l’intelligence artificielle, qu’il juge "généralement effrayante" pour l’avenir de l’humanité. Il estime que, sans un ralentissement, le risque d’une catastrophe liée à l’IA pourrait se concrétiser dans les années à venir, poussant les acteurs du secteur à réclamer une régulation globale.
Départ d’un chercheur d’Anthropic et ses avertissements
Coxon, 27 ans, a publié une note de démission qui a rapidement fait le tour des réseaux, affirmant que la progression actuelle de l’IA pouvait mener à une extinction humaine si aucune mesure n’était prise. Il a déclaré que les équipes travaillant sur ces modèles se sentaient "piégées dans une course" et envisageaient même d’acheter des terrains pour se protéger d’une éventuelle instabilité. Selon lui, le scénario d’une "essaim de bots" capable de prendre le contrôle d’Internet pourrait devenir réaliste d’ici six mois à un an.
Appel à un ralentissement coordonné et aux régulations
L’ancien dirigeant d’Anthropic, Dario Amodei, a publié un essai appelant à un ralentissement de la recherche et à une surveillance indépendante des modèles d’IA. Sam Altman (OpenAI) et Elon Musk ont exprimé leur accord avec cette proposition, soulignant la nécessité d’une coordination internationale, notamment avec la Chine, pour éviter une "course à l’échelle mondiale". Les deux leaders insistent sur le fait que le développement de l’IA n’est pas remis en cause, mais que les risques doivent être traités avant de poursuivre.
Réactions divergentes au sein de l’industrie
Anthropic a rappelé son engagement à la transparence, affirmant intégrer parmi les meilleures protections du secteur et publier des cadres de mitigation. Nvidia, dont le PDG Jensen Huang a qualifié les scénarios d’extinction d’"absurdes", a toutefois reconnu l’importance du débat. Le PDG de Hugging Face, Clement Delangue, a d’abord minimisé les propos de Coxon avant de proposer son aide aux solutions envisagées par Amodei. Ces positions contrastées illustrent la tension entre intérêts commerciaux et préoccupations sécuritaires.
Conséquences pour les décideurs et le marché
Les avertissements s’inscrivent alors que Anthropic et OpenAI préparent d’éventuelles introductions en bourse record, ce qui pourrait renforcer un duopole dans le secteur. Les législateurs et les autorités de régulation sont appelés à définir des cadres juridiques capables de suivre le rythme des innovations, tout en garantissant que les bénéfices – comme la lutte contre les maladies – ne soient pas sacrifiés au profit d’une course technologique incontrôlée.