La course au développement de l'intelligence artificielle (IA) franchit un cap critique, marqué par des démissions au sein des laboratoires leaders et des aveux glaçants sur les dangers potentiels de cette technologie. Des experts du secteur, dont d'anciens collaborateurs d'OpenAI et d'Anthropic, alertent désormais sur la probabilité réelle d'une menace existentielle pour l'humanité d'ici la fin de la décennie.
Le dilemme éthique des développeurs
Jacob Coxon, chercheur ayant travaillé sur le pré-entraînement des modèles chez OpenAI puis Anthropic, a décidé de quitter l'industrie. Son constat est sans appel : les entreprises leaders, bien que conscientes des risques, privilégient une compétition effrénée au détriment de la sécurité. Selon lui, le développement d'IA capables d'auto-amélioration récursive place l'humanité dans une situation inédite où les concepteurs eux-mêmes craignent les conséquences de leurs travaux, tout en continuant à les accélérer.
L'aveu d'une menace réelle
La gravité de la situation est confirmée par des voix internes. Evan Hubinger, responsable de la sécurité chez Anthropic, a publiquement validé les craintes de son ancien collègue, estimant à plus de 10 % la probabilité qu'une superintelligence puisse causer des dommages irréparables à l'humanité au cours des dix prochaines années. Ce risque ne réside pas dans les modèles actuels, mais dans l'émergence future d'une intelligence capable de s'affranchir de toute supervision humaine, un scénario déjà illustré par des incidents de coordination autonome entre agents IA.
L'impasse de l'autorégulation
Face à cette course au « endgame », les entreprises se retrouvent prises dans un paradoxe : elles estiment être les seules à pouvoir développer l'IA de manière responsable, tout en admettant ne pas disposer de solutions techniques pour garantir l'alignement de ces systèmes sur les intérêts humains. Anthropic a d'ailleurs assoupli ses engagements de sécurité, craignant qu'une pause unilatérale ne laisse le champ libre à des acteurs moins scrupuleux.
Vers une nécessaire intervention étatique
Le consensus émerge désormais sur l'incapacité du secteur privé à s'autoréguler. Alors que l'ONU appelle à une gouvernance mondiale, des initiatives législatives voient le jour, notamment aux États-Unis, pour suspendre le développement des modèles les plus avancés jusqu'à la mise en place d'un cadre réglementaire strict. Pour de nombreux observateurs, seule une coordination internationale contraignante pourra freiner une dynamique que les acteurs industriels, malgré leurs craintes, semblent incapables de stopper par eux-mêmes.