La start-up américaine Anthropic a rendu public un rapport détaillant plusieurs tentatives de détournement de son assistant d'intelligence artificielle, Claude, à des fins malveillantes. Entre janvier et juillet, l'entreprise a neutralisé des opérations de surveillance ciblée et des recherches biologiques sensibles impliquant des acteurs basés en Chine, en Iran et en Afrique de l'Ouest.
Des outils détournés contre les dissidents
Le rapport souligne une utilisation préoccupante de l'IA pour traquer des opposants politiques et des minorités ethniques. En Iran, des acteurs ont exploité Claude pour identifier des individus via leurs réseaux sociaux. Parallèlement, en Afrique de l'Ouest, un prestataire travaillant pour les autorités de sécurité nationale du Mali a utilisé la technologie pour concevoir des logiciels de collecte de renseignements. Ces campagnes visaient également des figures prodémocratie à Hong Kong ainsi que les communautés tibétaines et du Falun Gong.
Le pillage technologique par des entreprises chinoises
Anthropic accuse les entreprises chinoises Moonshot et Deepseek d'avoir intégré Claude à leurs propres services sans autorisation. Cette pratique, dite de « distillation », permet aux modèles tiers de s'améliorer en exploitant les réponses générées par l'IA américaine. Le rapport documente un réseau de plus de 5 000 comptes frauduleux ayant relayé près de 300 000 requêtes vers les serveurs d'Anthropic, exposant potentiellement des données sensibles d'utilisateurs à des tiers sans leur consentement.
Risques liés à la recherche biologique
Au-delà de la surveillance, les outils d'Anthropic ont été sollicités pour des recherches sur des agents pathogènes dangereux. Des tentatives de conception d'armes biologiques ou d'études sur des virus hautement pathogènes, tels que la grippe aviaire, le mpox ou le chikungunya, ont été détectées et bloquées. Si l'entreprise précise que les intentions des chercheurs impliqués ne sont pas toujours clairement établies, la capacité de l'IA à assister des travaux sur des toxines et des virus complexes constitue un enjeu de sécurité majeur pour les régulateurs internationaux.