Terence Tao, l'un des mathématiciens les plus brillants de sa génération, lance une mise en garde inhabituelle : faudrait-il exclure certains problèmes mathématiques de la portée des intelligences artificielles ? Une proposition qui divise déjà la communauté scientifique.
Une ressource mathématique menacée de « contamination »
Depuis l'essor de l'IA générative, les capacités de résolution de problèmes mathématiques ont atteint des niveaux impressionnants. Des modèles développés par OpenAI ou Anthropic ont résolu des problèmes ouverts depuis des décennies. Mais pour Terence Tao, médaillé Fields 2006, ce progrès cache un danger sournois : les problèmes formulés avant l'ère de l'IA sont en train de devenir une ressource « quasi non renouvelable ».
La raison ? Ce que Tao appelle la « contamination ». Lorsqu'une IA résout un problème, il devient extrêmement difficile de distinguer une véritable avancée novatrice d'une solution qui existait déjà potentiellement dans les données d'entraînement du modèle. Cette opacité compromet la valeur scientifique de ces résolutions.
L'analogie des pelleteuses dans un site archéologique
Pour illustrer son propos, le mathématicien cite une réflexion similaire émise en août par son collègue français Hugo Duminil-Copin, lui aussi médaillé Fields en 2022. Ce dernier compare l'exploitation automatisée des problèmes ouverts à des pelleteuses déchaînées sur un site archéologique : ces excavatrices puissantes et inlassables extraient des trésors tout en détruisant le contexte historique qui leur confère leur sens et leur valeur.
« L'exploitation automatisée et aveugle des problèmes ouverts risque de détruire l'écosystème à partir duquel la prochaine génération de techniques mathématiques, de problèmes et de mathématiciens aurait pu se développer », avait averti Duminil-Copin.
L'exemple concret d'un projet compromis
Terence Tao a lui-même vécu ce dilemme. Au sein d'un projet de théorie des groupes qu'il co-anime, les organisateurs avaient demandé aux participants de ne pas partager leurs solutions pour mesurer la difficulté réelle du défi. Cette approche permettait de « cartographier » précisément le problème. Mais en communiquant ensuite les informations clés pour accélérer les progrès, l'équipe a estimé avoir « compromis de manière irréversible » ce travail de cartographie.
Des « sanctuaires » pour préserver l'avenir de la recherche
Face à ces constats, Tao propose d'instaurer des « sanctuaires » réservés aux humains : « Il pourrait s'avérer nécessaire d'interdire l'utilisation des solveurs automatisés pour certaines catégories de problèmes de maths, afin de préserver leur valeur globale pour l'écosystème mathématique, par exemple dans le cadre de la formation des futurs mathématiciens. »
Le mathématicien admet toutefois que cette proposition serait difficile à mettre en œuvre, compte tenu de la puissance des outils disponibles et des enjeux de recherche et de prestige. Il mise sur une forme de pression sociale pour décourager certains usages.
Cette réflexion dépasse les seules mathématiques et interroge un dilemme universel à l'ère de l'IA : faut-il lui fermer volontairement certaines portes pour maintenir des espaces humains essentiels ?