La course au développement d'une intelligence artificielle (IA) de plus en plus autonome soulève des inquiétudes croissantes au sein même des laboratoires leaders du secteur. Des chercheurs ayant travaillé pour OpenAI et Anthropic dénoncent une dynamique industrielle périlleuse, où la compétition pour atteindre une « superintelligence » prend le pas sur la sécurité et le contrôle humain.
Une course technologique sous haute tension
Jacob Coxon, chercheur ayant collaboré avec OpenAI et Anthropic, a récemment quitté l'industrie en exprimant de vives critiques sur les pratiques de ces entreprises. Selon lui, les deux laboratoires sont engagés dans une trajectoire visant à créer des systèmes capables de s'auto-améliorer de manière récursive. Cette quête, qualifiée en interne de « fin de partie », pourrait mener à des technologies dépassant la compréhension et la maîtrise humaine, sans qu'aucun garde-fou efficace ne soit encore opérationnel.
La reconnaissance d'un risque existentiel
L'inquiétude ne se limite pas aux démissionnaires. Evan Hubinger, responsable de la sûreté chez Anthropic, a publiquement admis que le risque que l'IA puisse menacer l'humanité d'ici la fin de la décennie est pris au sérieux par les équipes techniques. Il estime la probabilité de ce scénario à plus de 10 %. Si l'entreprise affirme faire « de son mieux », elle reconnaît ne pas disposer, à ce stade, d'un plan robuste pour garantir qu'une IA surpassant les capacités humaines restera docile face à ses concepteurs.
L'impasse d'une régulation coordonnée
Le dilemme central réside dans l'absence de régulation internationale contraignante. Les acteurs du secteur, bien que conscients des dangers, estiment souvent ne pas pouvoir ralentir unilatéralement sous peine de se laisser distancer par la concurrence. Cette logique de marché pousse les entreprises à poursuivre leurs développements malgré les risques identifiés. Pendant que les débats sur les « risques existentiels » se multiplient, certains observateurs soulignent que ces alertes pourraient également occulter des enjeux immédiats et concrets, tels que l'impact environnemental des centres de données, la désinformation ou la transformation profonde du marché de l'emploi.