La démission de Jacob Coxon, chercheur au sein de l'entreprise spécialisée en IA Anthropic, met en lumière les fractures internes sur la sécurité des systèmes de nouvelle génération. En quittant le secteur, cet ingénieur alerte sur une course à l'innovation qu'il juge déconnectée des enjeux de sûreté vitaux pour l'humanité.
Une critique frontale des leaders du secteur
Jacob Coxon, qui a également exercé ses fonctions chez OpenAI, a officialisé son départ le 9 septembre dernier. Dans une prise de parole publique, il accuse les deux entreprises majeures du secteur d'agir de manière irresponsable. Selon lui, la quête effrénée vers une intelligence artificielle générale (IAG) — capable de surpasser les capacités cognitives humaines et de s'auto-améliorer — est menée sans garde-fous suffisants, mettant ainsi en péril la sécurité collective.
Le spectre d'une superintelligence incontrôlable
Au cœur de l'argumentaire de l'ancien chercheur se trouve la thèse, de plus en plus débattue, de l'émergence d'une superintelligence d'ici la fin de la décennie. Coxon affirme que cette crainte n'est pas un simple argument marketing, mais une conviction partagée par de nombreux acteurs techniques au sein même des laboratoires de recherche. Il soutient que les systèmes en cours de développement pourraient échapper au contrôle humain, transformant la course à la performance en un risque existentiel immédiat.
Vers une régulation de la course à l'innovation
Ce départ s'inscrit dans un mouvement plus large de remise en question des pratiques industrielles. Jacob Coxon rejoint ainsi les voix de plus de 1 300 experts et acteurs du secteur qui appellent à un ralentissement significatif du développement des modèles les plus puissants. Cet appel souligne l'urgence d'instaurer des protocoles de sécurité plus stricts avant que les capacités d'auto-apprentissage des machines ne rendent toute intervention humaine obsolète. La position de Coxon souligne un point de tension majeur : la difficulté de concilier la compétitivité technologique avec la nécessité de garantir que ces outils restent alignés sur les intérêts et la survie de l'humanité.