La société Anthropic a récemment révélé avoir déjoué plusieurs tentatives d'utilisation malveillante de son intelligence artificielle Claude, visant la conception d'armes biologiques. Ces incidents soulignent les risques sécuritaires majeurs posés par le développement rapide des modèles d'IA de pointe.
Des garde-fous face aux risques biologiques
Dans un rapport publié le 10 septembre 2026, Anthropic détaille cinq cas critiques survenus entre décembre 2025 et août 2026. Des utilisateurs ont sollicité l'IA pour obtenir des informations sur la manipulation de virus, notamment le chikungunya et la grippe aviaire, afin d'étudier leur capacité à contourner les systèmes immunitaires. Bien que ces recherches puissent théoriquement servir à l'élaboration de vaccins, l'entreprise a choisi de bloquer ces requêtes par mesure de précaution. Anthropic estime que, sans garde-fous stricts, l'accès à de telles connaissances pourrait entraîner des conséquences catastrophiques à l'échelle mondiale.
Une surveillance étendue aux menaces technologiques
Le détournement de Claude ne se limite pas au domaine biologique. L'entreprise a identifié des tentatives d'exploitation de ses modèles pour concevoir des systèmes d'armement, tels que des missiles et des drones, ou pour assister des États dans la mise en place de dispositifs de surveillance de masse. Face à ces menaces, Anthropic a procédé à la suspension des comptes impliqués et a renforcé la sécurité de ses algorithmes. L'entreprise admet toutefois que ces mesures ne sont pas infaillibles : certains utilisateurs ont contourné ces restrictions en se tournant vers des plateformes tierces aux protocoles de sécurité moins rigoureux.
Le débat sur la responsabilité de l'industrie
Ces révélations s'inscrivent dans un contexte de méfiance croissante envers les entreprises leaders de l'IA. La récente démission de chercheurs de haut niveau, inquiets de la dangerosité potentielle de ces technologies, alimente un débat public sur la régulation du secteur. Anthropic reconnaît que la montée en puissance des capacités de ses modèles accroît mécaniquement les risques d'usage abusif. Pour l'entreprise, l'enjeu est désormais de trouver un équilibre entre l'innovation technologique et la mise en place de barrières infranchissables pour prévenir toute utilisation détournée de ses outils à des fins militaires ou criminelles.