Google et son laboratoire spécialisé Deepmind ont officialisé la création d'un institut commun dédié à l'intelligence artificielle générale (IAG). Cette structure ambitionne de structurer la recherche interdisciplinaire et d'établir des cadres de gouvernance pour anticiper les impacts sociétaux et économiques de ces technologies émergentes.
Une gouvernance portée par des experts de premier plan
La direction de cette nouvelle entité est confiée à un trio d'experts reconnus : Shane Legg et James Manyiaka, issus de Google, ainsi que Demis Hassabis, cofondateur de Deepmind. Leur mission consiste à stimuler des débats techniques et sociétaux cruciaux autour de l'IAG, définie comme une intelligence capable d'égaler l'autonomie et les capacités cognitives humaines. L'institut se positionne comme un espace de réflexion pour répondre aux risques que ces systèmes pourraient faire peser sur l'économie mondiale et l'épanouissement humain.
Vers une normalisation des modèles d'IA Frontières
L'un des axes prioritaires de l'institut concerne l'évaluation des modèles dits « d'IA Frontières », les plus puissants et les plus complexes à surveiller. Les travaux publiés suggèrent la création d'un organisme de normalisation, potentiellement piloté par les États-Unis, qui exigerait une soumission des modèles jusqu'à 30 jours avant leur mise sur le marché. Cette approche vise à instaurer des évaluations indépendantes et confidentielles, empêchant les entreprises de calibrer leurs systèmes uniquement pour réussir des tests prévisibles.
L'exigence de transparence face aux systèmes fermés
Au-delà de la régulation, l'institut soulève la question de la transparence des modèles fermés. Un essai publié par la structure souligne la nécessité pour les développeurs de démontrer que leurs systèmes, bien que non ouverts, restent totalement contrôlables. L'objectif est de permettre à l'humanité de vérifier le raisonnement étape par étape des modèles, une capacité qui devient de plus en plus difficile à garantir à mesure que la puissance de calcul et la complexité des algorithmes augmentent.
Un enjeu de souveraineté et de sécurité
Si l'initiative se veut un laboratoire d'idées, elle soulève des interrogations sur son orientation. La perspective d'une normalisation centrée sur les États-Unis comporte des risques de censure ou d'exclusion pour d'autres nations. L'institut devra donc prouver sa capacité à peser dans le débat mondial tout en naviguant entre les impératifs de sécurité, les intérêts commerciaux des entreprises technologiques et les préoccupations croissantes des spécialistes sur l'avenir de l'humanité face à l'IA.