Geoffrey Hinton, figure historique de l'intelligence artificielle, alerte sur les risques posés par les leaders actuels du secteur et appelle à une refonte profonde de leur gouvernance. Il préconise l'instauration d'un cadre contraignant, similaire aux protocoles de validation des médicaments, pour garantir la sécurité des systèmes avant leur déploiement massif.
Une défiance envers les dirigeants de la tech
Le chercheur exprime une inquiétude majeure concernant les motivations des dirigeants des entreprises leaders de l'IA, citant nommément Sam Altman, Mark Zuckerberg et Elon Musk. Selon lui, la priorité accordée à la rentabilité financière occulte la prise en compte réelle des risques technologiques. Cette critique souligne un enjeu de confiance publique : le développement de technologies transformatrices est actuellement piloté par des acteurs privés dont les intérêts ne semblent pas alignés avec la sécurité collective.
Le modèle de la FDA comme garde-fou
Pour contrer cette dynamique, Geoffrey Hinton propose d'imposer aux entreprises d'IA des tests de validation rigoureux, inspirés des procédures de la FDA américaine pour les produits pharmaceutiques. L'idée est d'inverser la logique actuelle : au lieu de corriger les préjudices après la mise sur le marché, les développeurs devraient prouver, via des données probantes et une évaluation indépendante, que leurs modèles génèrent un bénéfice net pour la société avant toute commercialisation.
Vers une coopération internationale
Face à l'ampleur des enjeux, une dynamique multilatérale commence à émerger. Un plan soutenu par la Finlande et une trentaine d'autres nations, incluant l'Allemagne, le Canada et Singapour, propose d'instaurer des normes communes et des contrôles obligatoires pour les modèles d'IA de pointe. Cette volonté de régulation mondiale pourrait franchir une étape décisive lors de la prochaine présidence britannique du G20, où des accords internationaux sur la gouvernance de l'IA sont attendus.
Une fenêtre d'action encore ouverte
Malgré la gravité de ses mises en garde, Geoffrey Hinton estime que la situation n'est pas irréversible. Il souligne que la maîtrise des risques technologiques reste possible, à condition qu'une volonté politique coordonnée soit rapidement mise en œuvre. Cette perspective place la responsabilité entre les mains des décideurs publics, appelés à transformer ces intentions en normes contraignantes pour encadrer l'innovation.