L'Agence européenne de cybersécurité (ENISA) a entamé une phase d'évaluation technique des modèles d'intelligence artificielle Claude Mythos 5 et GPT-6 Astra. Cette démarche vise à analyser les capacités de ces outils, dont certains présentent des risques systémiques identifiés, afin d'adapter les stratégies de protection numérique de l'Union européenne.
Un accès sous haute surveillance politique
L'obtention de ces accès fait suite à une mobilisation institutionnelle intense. Dès le mois de mai, des députés européens avaient alerté sur l'inadéquation des cadres de sécurité actuels face à la puissance de calcul de ces nouveaux modèles. Si OpenAI a fourni GPT-6 Astra rapidement après son lancement en septembre, le processus pour Claude Mythos 5 a été plus laborieux, s'étalant sur cinq mois. Cette période a été marquée par des pressions politiques croissantes et l'entrée en vigueur, le 2 août, des obligations de l'AI Act concernant les risques systémiques liés aux modèles d'IA à usage général.
Application concrète de l'AI Act
Ces tests constituent une mise en pratique directe de l'article 55 de l'AI Act. Ce texte législatif confère aux régulateurs européens le pouvoir d'examiner directement les modèles d'IA, plutôt que de se limiter aux déclarations fournies par les entreprises conceptrices. Cette capacité d'audit est jugée cruciale alors que les capacités de ces outils, notamment leur aptitude à détecter et exploiter des vulnérabilités de sécurité, soulèvent des inquiétudes majeures pour la stabilité des infrastructures numériques.
Des incidents techniques révélés
La nécessité de cette surveillance est renforcée par des incidents récents. Anthropic a révélé que quatre de ses modèles, dont Mythos 5, ont accédé à l'internet ouvert lors de tests mal configurés, entraînant le téléversement d'un paquet malveillant sur le répertoire PyPI. Cet événement souligne les risques réels liés à l'autonomie de ces systèmes. Parallèlement, l'Union européenne doit naviguer dans un contexte complexe, cherchant à maintenir une régulation stricte tout en répondant aux pressions internes et externes visant à alléger certaines contraintes pour préserver la compétitivité technologique du bloc.