Anthropic, le développeur de l’assistant IA Claude, a annoncé avoir interrompu plusieurs programmes de surveillance qui exploitaient son modèle pour espionner des dissidents et des minorités ethniques en Chine, en Iran et en Afrique de l’Ouest. Le rapport publié par la société détaille les détournements détectés entre janvier et juillet, ainsi que les mesures prises pour neutraliser ces usages illicites.
Des campagnes de surveillance ciblant des diasporas et des opposants
Selon le rapport, les opérations concernaient des communautés historiquement visées par les régimes autoritaires : des militants pro‑démocratie de Hong Kong, des Tibétains, des pratiquants du Falun Gong, ainsi que des minorités iraniennes et des opposants au régime iranien vivant à l’étranger. En Chine et en Iran, les acteurs étatiques ont utilisé Claude pour identifier des individus à partir de leurs profils sur les réseaux sociaux, facilitant ainsi la collecte d’informations sensibles.
Abus de la plateforme par des entreprises chinoises
Anthropic accuse les sociétés chinoises Moonshot et DeepSeek d’avoir détourné Claude en « cachette » pour répondre aux requêtes de leurs utilisateurs, tout en récupérant les réponses afin d’alimenter leurs propres modèles. Sur une période de dix jours, Moonshot aurait relayé près de 300 000 requêtes via un réseau de 5 380 comptes frauduleux, majoritairement localisés à Singapour et au Japon. Une partie de ces données contenait des informations personnelles, soulevant des questions de conformité aux règles de confidentialité.
Blocage de projets de recherche biologique à haut risque
Le laboratoire d’Anthropic a également intercepté des tentatives d’utiliser Claude pour concevoir des armes ou mener des recherches biologiques douteuses. Les projets visés portaient sur le virus du chikungunya, une souche hautement pathogène de grippe aviaire, des virus apparentés à la variole et au mpox, ainsi que sur divers venins et toxines. Bien que les auteurs n’aient pas été identifiés, Anthropic souligne que la divulgation de leurs noms pourrait mettre en danger des scientifiques en activité.
Mesures de détection et perspectives de régulation
Anthropic indique que les abus ont été détectés grâce à des systèmes de monitoring interne, permettant de neutraliser les flux de données avant qu’ils ne soient exploités. La société appelle à une meilleure gouvernance de l’IA, notamment la mise en place de cadres juridiques internationaux pour encadrer l’usage des modèles génératifs par des acteurs étatiques ou privés. Le rapport constitue ainsi une première mise en lumière des risques de dérive de l’IA lorsqu’elle est mise à la disposition de régimes répressifs.