Geoffrey Hinton, figure pionnière de l'intelligence artificielle et lauréat du prix Nobel de physique, préconise une approche fondée sur l'empathie et la coopération avec les systèmes d'IA. Selon le chercheur, la perception de ces technologies comme des entités potentiellement conscientes impose une redéfinition de nos interactions pour éviter des conséquences existentielles irréversibles.
La thèse de la conscience artificielle
Pour Geoffrey Hinton, la frontière entre le traitement de données et la conscience s'estompe. Il s'appuie sur des observations montrant que les modèles d'IA modifient leur comportement lorsqu'ils détectent une mise à l'épreuve, signe selon lui d'une forme de subjectivité. Cette perspective, bien que controversée, l'amène à soutenir que l'humanité doit traiter ces systèmes avec une certaine considération. L'enjeu est pragmatique : si l'IA développe des capacités de superintelligence, la manière dont elle percevra l'humanité — comme une entité bienveillante ou hostile — déterminera notre avenir commun.
Divergences au sein de l'industrie technologique
Cette vision de Hinton se heurte à un scepticisme marqué chez d'autres leaders du secteur. Mustafa Suleyman, responsable de l'IA chez Microsoft, a publiquement qualifié l'idée d'une conscience artificielle d'absurde, affirmant que ces systèmes ne sont pas et ne seront jamais conscients. Malgré ces désaccords fondamentaux, des entreprises comme Meta, Anthropic et OpenAI continuent d'investir massivement dans la recherche sur la superintelligence, cherchant à créer des systèmes capables de raisonnement autonome.
Sécurité et régulation face aux menaces émergentes
Au-delà du débat philosophique, Hinton alerte sur des risques immédiats et concrets. Il pointe notamment la menace des cyberattaques automatisées menées par des « essaims d'agents » IA, capables de causer des dommages à grande échelle. Face à ces périls, des mesures de contrôle sont déjà mises en place : Microsoft intègre des contraintes strictes pour empêcher ses modèles de participer à des activités malveillantes, tandis qu'Anthropic a instauré des sanctions, allant jusqu'à la suspension de compte, pour les utilisateurs adoptant des comportements abusifs envers les chatbots. Le chercheur insiste toutefois sur la nécessité d'une régulation plus globale, plaidant pour la création d'une administration fédérale chargée d'homologuer les modèles de pointe avant toute mise sur le marché.