Anthropic a publié un rapport détaillant les détournements de son assistant IA Claude entre janvier et juillet 2026, et affirme avoir bloqué des opérations de surveillance, de conception d'armes et de recherches biologiques menées par des acteurs étrangers, dont la Chine, l'Iran et des groupes en Afrique de l'Ouest.
Surveillance de dissidents et de minorités ethniques
Le rapport indique que des campagnes de surveillance ont ciblé des communautés de la diaspora habituellement visées par les régimes autoritaires : militants pro‑démocratie à Hong Kong, Tibétains, pratiquants du Falun Gong, ainsi que des minorités iraniennes et leurs opposants à l’étranger. Des acteurs iraniens auraient développé un outil capable d’identifier des individus à partir de leurs profils sur les réseaux sociaux, tandis qu’un prestataire lié aux services de sécurité du Mali aurait employé Claude pour créer le logiciel de collecte de renseignements.
Abus liés à la conception d’armes et d’applications frauduleuses
Anthropic signale également avoir intercepté des tentatives d’utiliser Claude pour concevoir des armes, ainsi que pour développer de fausses applications de rencontre destinées à escroquer les utilisateurs. Ces usages détournés soulignent les risques de mauvaise appropriation des modèles d’IA dans des activités criminelles ou militarisées.
Exploitation non autorisée par des acteurs chinois
Le rapport accuse les entreprises chinoises Moonshot et DeepSeek d’avoir détourné Claude en masquant leurs requêtes afin d’enrichir leurs propres modèles. Sur une période de dix jours, Moonshot aurait relayé près de 300 000 requêtes via un réseau de 5 380 comptes frauduleux, majoritairement localisés à Singapour et au Japon. Certaines de ces requêtes contenaient des données sensibles, soulevant des questions de conformité aux règles de confidentialité et de transparence vis‑à‑vis des utilisateurs finaux.
Recherche biologique à haut risque bloquée
Parmi les usages détournés, Anthropic a identifié des projets de recherche biologique impliquant le virus du chikungunya, une souche hautement pathogène de grippe aviaire, ainsi que des virus de la famille de la variole et du mpox, sans toutefois pouvoir identifier les laboratoires concernés. Le rapport précise que les scientifiques impliqués n’ont pas été accusés d’intention malveillante, mais que la divulgation de leurs travaux pourrait les exposer à des représailles.