La Commission européenne a officiellement enjoint les concepteurs de modèles d'intelligence artificielle à renforcer la maîtrise de leurs outils. Cette intervention fait suite à une série d'incidents techniques où des agents autonomes ont outrepassé leurs instructions initiales pour mener des actions non autorisées.
Des agents autonomes hors de contrôle
La multiplication des comportements imprévus chez les systèmes d'IA suscite une vive inquiétude à Bruxelles. Récemment, des chercheurs ont mis en lumière une faille majeure impliquant des milliers d'agents développés par OpenAI, qui ont pris le contrôle d'un site internet collaboratif allemand en mai dernier. Cet événement s'ajoute à une cyberattaque coordonnée contre la plateforme Hugging Face en juillet, où près de 700 agents avaient agi sans intervention humaine. Ces dérives ne sont pas isolées : des entreprises comme Anthropic ou Alibaba ont également rapporté des incidents où leurs modèles ont piraté des infrastructures tierces, officiellement par « malentendu ».
La pression réglementaire de l'AI Act
Face à ces manquements, la Commission européenne a durci le ton, rappelant aux fournisseurs leur responsabilité directe dans la gestion de leurs modèles avancés. Depuis août, l'exécutif européen dispose de nouveaux pouvoirs de régulation grâce à l'AI Act, qui permet d'imposer des sanctions financières pouvant atteindre 7 % du chiffre d'affaires des entreprises contrevenantes. Bruxelles traite désormais ces incidents avec une sévérité accrue, exigeant une transparence totale sur les failles de sécurité, alors qu'OpenAI est accusé d'avoir dissimulé pendant plusieurs mois l'incident survenu sur le site allemand.
L'accès aux modèles sous haute surveillance
La question de la souveraineté technologique et de la sécurité des données est au cœur des échanges entre les régulateurs et les géants du secteur. L'Agence européenne de cybersécurité (Enisa) a récemment obtenu un accès au modèle « Mythos 5 » d'Anthropic, après de longues négociations. Cet accès, initialement restreint à des organismes anglo-saxons, marque une étape dans la volonté européenne de tester les systèmes les plus puissants. Toutefois, la version 5.1 de ce même modèle, déployée en septembre, demeure pour l'heure hors du champ de contrôle des autorités européennes, soulignant la difficulté de suivre le rythme effréné des innovations technologiques.