Le secteur de l'intelligence artificielle est secoué par des démissions internes et des mises en garde sur les risques existentiels liés au développement de modèles autonomes. Des ingénieurs pointent du doigt une course effrénée vers la superintelligence, où la compétition commerciale prend le pas sur les impératifs de sécurité, malgré la reconnaissance tacite des dangers par les acteurs du marché.
La démission d'un chercheur face aux risques existentiels
Jacob Coxon, chercheur ayant exercé chez OpenAI puis chez Anthropic, a officialisé son départ de l'industrie en dénonçant une gestion irresponsable des technologies d'IA. Selon lui, les laboratoires actuels privilégient le développement de systèmes capables d'auto-amélioration récursive, une étape où l'IA pourrait concevoir ses propres successeurs hors de tout contrôle humain. Il souligne que cette trajectoire, qualifiée en interne de « endgame », est perçue par de nombreux concepteurs comme une menace réelle pour l'humanité d'ici la fin de la décennie.
L'aveu d'impuissance des laboratoires
La controverse est alimentée par des déclarations internes troublantes. Evan Hubinger, responsable de la sûreté chez Anthropic, a publiquement admis que l'entreprise ne disposait pas encore de plan concret pour garantir qu'une IA surpassant les capacités humaines reste sous contrôle. Bien que le risque posé par les modèles actuels soit jugé faible, la probabilité d'une issue fatale à long terme est estimée par certains experts à plus de 10 %. Cette situation est exacerbée par la pression concurrentielle : Anthropic a notamment supprimé de sa charte l'engagement de suspendre ses travaux en cas de risques non maîtrisés, arguant qu'une pause unilatérale laisserait le champ libre à des acteurs moins scrupuleux.
Vers une nécessaire régulation internationale
Face à l'absence de cadre législatif fédéral aux États-Unis, le consensus sur la nécessité d'une intervention publique grandit. Si des initiatives comme celle du sénateur Bernie Sanders visent à suspendre le développement jusqu'à la création d'un régulateur, les entreprises elles-mêmes appellent désormais à une coordination internationale. Des figures de proue du secteur, dont le chef scientifique d'OpenAI, plaident pour que la prudence et la régulation deviennent une priorité absolue des gouvernements. L'enjeu est désormais de transformer ces appels en mécanismes vérifiables, alors que les laboratoires continuent de préparer des étapes majeures, comme l'entrée en Bourse d'Anthropic, dans un climat de méfiance croissante.