L'entreprise californienne Anthropic a publié un rapport inédit documentant les usages malveillants de son intelligence artificielle, Claude. Pendant huit mois, ses équipes ont identifié des opérations sophistiquées allant de la conception de missiles à des systèmes de surveillance de masse, soulignant les défis critiques liés à la sécurité des modèles génératifs.
De la conception de missiles aux cyberattaques automatisées
Le rapport met en lumière des détournements techniques alarmants. Au Yémen, une cellule a utilisé l'IA comme un bureau d'études pour concevoir des missiles balistiques et des planeurs hypersoniques, allant jusqu'à réaliser des essais en vol. Parallèlement, des groupes de hackers, notamment le collectif Midnight Blizzard, ont automatisé leurs chaînes d'attaque : l'IA permettait de modifier en temps réel des logiciels malveillants pour contourner les antivirus. À Changsha, en Chine, des opérateurs ont déployé des essaims d'agents IA pour scanner des dizaines d'organisations et identifier des failles de sécurité inédites.
Surveillance de masse et ingénierie sociale
L'IA a également été exploitée pour des dispositifs de contrôle social. Au Mali, la plateforme « Lakana 360 » a été développée avec l'aide de Claude pour surveiller 25 millions de cartes SIM, croisant les données avec le registre biométrique national et s'affranchissant des mandats judiciaires. En Iran, des outils ont été créés pour désanonymiser des messageries et collecter des données personnelles via des applications déguisées. Plus largement, des réseaux d'applications de rencontre ont utilisé l'IA pour générer des milliers de faux profils, trompant des dizaines de milliers d'utilisateurs réels dans des opérations d'escroquerie à grande échelle.
Les limites des garde-fous technologiques
Ces révélations illustrent la difficulté pour les concepteurs d'IA de bloquer des usages détournés. Si Anthropic affirme avoir neutralisé ces opérations et renforcé ses systèmes de détection, le rapport montre que les filtres de sécurité sont parfois contournés par des requêtes techniques complexes ou par la redirection de demandes vers des modèles concurrents moins restrictifs. Cette transparence, bien qu'essentielle, alimente le débat sur la responsabilité des entreprises technologiques face aux risques que leurs outils font peser sur la sécurité publique et les libertés individuelles.