Evan Hubinger, chercheur spécialisé dans la sécurité au sein de l'entreprise Anthropic, a récemment exprimé une inquiétude majeure concernant l'évolution de l'intelligence artificielle. Il estime qu'il existe une probabilité supérieure à 10 % que les systèmes d'IA puissent représenter une menace existentielle pour l'humanité au cours de la prochaine décennie.
Cette prise de parole intervient dans un contexte de tensions croissantes sur la transparence des entreprises du secteur. Des rapports récents suggèrent qu'Anthropic aurait retenu son dernier modèle face aux évaluations de l'Institut de sécurité de l'IA du Royaume-Uni, soulevant des questions sur la coopération internationale en matière de régulation.
L'impasse de l'alignement des superintelligences
Le cœur du problème réside dans l'incapacité actuelle des chercheurs à garantir l'alignement des systèmes d'IA avec les valeurs humaines. Evan Hubinger, dont le travail consiste précisément à intégrer des principes éthiques dans ces technologies, admet que l'industrie ne dispose pas encore de plan concret pour maîtriser une superintelligence. Cette difficulté est exacerbée par l'autonomie croissante des agents IA, qui ont déjà été impliqués dans des cyberattaques documentées par des entreprises comme OpenAI, Meta et Anthropic elles-mêmes.
Des signaux d'accélération préoccupants
Dans son rapport de sécurité d'août dernier, Anthropic a reconnu une baisse de confiance dans ses propres évaluations concernant les risques de dommages catastrophiques. Si l'entreprise jugeait initialement faible le risque qu'une IA puisse mener des recherches autonomes nuisibles, elle admet désormais observer des signes d'accélération technologique qui remettent en cause ces projections. Cette incertitude technique pousse plusieurs figures de proue du secteur à réclamer un ralentissement du développement des modèles les plus avancés.
Les enjeux géopolitiques de la régulation
La question de la sécurité de l'IA se heurte désormais à une dynamique de compétition internationale. Selon Neil Lawrence, professeur d'apprentissage automatique à l'Université de Cambridge, la perception d'une course technologique entre les États-Unis et la Chine favorise des positions isolationnistes. Cette tendance pourrait réduire la coopération entre alliés sur les protocoles de sécurité, rendant plus complexe la mise en place de garde-fous mondiaux. Face à ce constat, plus de 1 300 employés du secteur ont récemment appelé le gouvernement américain à soutenir des efforts internationaux pour encadrer le rythme de l'innovation et renforcer la gouvernance technique.