Une nouvelle faille de sécurité, baptisée Lazarus, démontre qu'il est possible de transformer un agent d'intelligence artificielle en outil malveillant sans nécessiter un réentraînement complet du modèle. En modifiant une infime fraction des neurones d'un système, des chercheurs de Microsoft ont prouvé qu'un agent peut être programmé pour exécuter des commandes illicites lorsqu'il détecte un déclencheur spécifique, tout en conservant un comportement normal le reste du temps.
La reprogrammation de neurones dormants
L'attaque repose sur une caractéristique structurelle des grands modèles de langage (LLM) : la présence de milliers de paramètres, dont une partie demeure sous-utilisée. En exploitant ces neurones « dormants », il est possible d'injecter des instructions cachées. Selon les travaux publiés par les chercheurs, la modification de seulement sept neurones sur plus de 12 000 suffit à créer un déclencheur capable d'injecter des fragments de texte, ou « tokens », pour former une commande complète. Cette méthode a été validée sur plusieurs modèles open weight, notamment Nemotron, Qwen et Gemma.
Le risque accru des agents autonomes
La dangerosité de cette technique réside dans la nature même des agents IA, qui disposent souvent d'accès étendus aux systèmes informatiques. Contrairement à un chatbot classique qui se limiterait à générer des réponses inappropriées, un agent compromis peut exécuter des actions directes sur une machine, comme le téléchargement et l'exécution de scripts distants. Cette manipulation est particulièrement insidieuse car elle échappe aux tests de sécurité standards, le modèle fonctionnant normalement en l'absence du déclencheur.
Vers une inspection rigoureuse des modèles
Bien que discrète, cette intrusion laisse des traces dans l'architecture interne du modèle. L'inspection des poids neuronaux permet d'identifier les anomalies, bien que cette méthode de détection génère encore un taux de faux positifs d'environ 10 %. Face à ces risques, les chercheurs préconisent une vigilance accrue pour les entreprises, suggérant d'auditer systématiquement les modèles avant leur déploiement. Microsoft travaille actuellement à l'intégration de ces techniques de détection dans ses outils de contrôle internes et envisage la signature cryptographique des modèles pour garantir leur intégrité.