Google DeepMind a annoncé la création du DeepMind Institute, un nouveau centre dédié à l’étude et à la régulation de l’intelligence artificielle générale (AGI). L’institut, dirigé par des figures clés de l’entreprise, publie dès son lancement une série d’essais visant à éclairer les enjeux économiques, éthiques et techniques liés à l’IA de pointe.
Création du DeepMind Institute et ses dirigeants
L’institut a été présenté mercredi par des chercheurs de Google et de DeepMind. Parmi les directeurs, on retrouve le co‑fondateur de DeepMind Shane Legg, le cadre de Google James Manyika et le président de Google DeepMind Demis Hassabis, ce dernier étant également à la tête du projet éditorial. Shane Legg assure la fonction de rédacteur en chef, garantissant la cohérence des publications.
Essais fondateurs : transparence, économie et bien‑être humain
Le premier lot d’essais comprend quatre contributions couvrant des thématiques variées : politiques économiques pour anticiper les perturbations potentielles de l’AGI, préservation de la traçabilité humaine des raisonnements des modèles, principes favorisant l’épanouissement humain, et cadre d’évaluation des IA de pointe. L’essai de Rohin Shah et Anca Dragan, chercheurs en sécurité chez DeepMind, soutient que la perte de transparence des modèles n’est pas inéluctable. Ils proposent de limiter la « opaque serial depth », c’est‑à‑dire la profondeur de calcul séquentiel sans trace lisible, ou d’exiger des développeurs la démonstration d’une monitorabilité équivalente même pour des systèmes moins transparents.
L’autre contribution, signée Demis Hassabis, avance l’idée d’un organisme de normalisation américain dédié aux IA de frontière. Ce cadre préconise une soumission volontaire des modèles jusqu’à trente jours avant leur mise sur le marché, avec la perspective que, une fois le dispositif éprouvé, la conformité devienne une condition préalable au déploiement aux États‑Unis.
Proposition d’un organisme américain de normes pour l’IA de pointe
Selon le modèle proposé, les premières évaluations seraient élaborées en concertation avec les entreprises du secteur, afin de garantir pertinence et acceptabilité. À terme, l’organisme développerait des tests « held‑out », indépendants et non divulgués, pour éviter que les laboratoires adaptent leurs modèles aux critères connus. Le texte indique que le dispositif pourrait être « ratcheted up » – renforcé – si la gravité de la situation l’exige, incluant éventuellement un ralentissement coordonné du développement des IA les plus avancées.
Le débat sécuritaire de l’IA se concrétise
Ces publications s’inscrivent dans une évolution du débat sur la sécurité de l’IA, qui passe d’avertissements généraux à des propositions concrètes de divulgation, de contrôle externe et, en cas de retard des garde‑fous, de ralentissement collectif. Cette dynamique a été accélérée cette semaine par le soutien de plusieurs dirigeants du secteur à l’appel du PDG d’Anthropic, Dario Amodei, à « pace » le développement des IA de frontière, soulignant l’urgence d’un encadrement partagé.