La société Anthropic a procédé à une mise à jour majeure des conditions d'utilisation de son modèle d'intelligence artificielle, Claude. Cette nouvelle politique vise à prévenir les usages malveillants et les comportements abusifs, tout en encadrant strictement les applications sensibles de la technologie.
Vers une interdiction des comportements abusifs
La mesure la plus singulière de cette mise à jour concerne l'interaction directe entre l'utilisateur et l'IA. Anthropic interdit désormais tout comportement « abusif ou cruel, persistant et inutile » envers Claude. En cas de manquement, l'entreprise se réserve le droit de clore instantanément la session de discussion. Cette disposition, qui exclut les usages créatifs ou les recherches légitimes, témoigne d'une volonté de maintenir un cadre d'interaction sain et de limiter les dérives comportementales des utilisateurs.
Lutte contre l'ingérence et la surveillance
Face aux enjeux démocratiques, Anthropic renforce ses garde-fous contre l'utilisation de son IA à des fins de propagande ou de manipulation électorale. La nouvelle charte proscrit explicitement la diffusion de fausses informations sur les candidats, l'usurpation d'identité de responsables politiques et toute tentative visant à entraver la participation citoyenne. Parallèlement, l'entreprise restreint l'usage de Claude dans le domaine judiciaire et policier : il est désormais interdit d'utiliser le modèle pour identifier des cibles d'enquête, recommander des arrestations ou concevoir des outils de surveillance des dissidents politiques.
Sécurité physique et robotique autonome
Au-delà du numérique, Anthropic s'attaque aux risques liés à l'intégration de l'IA dans le monde physique. L'entreprise réaffirme son interdiction de concevoir des armes, tout en étendant cette restriction aux systèmes de guidage et de contrôle d'armement. Concernant la robotique, la firme impose une règle de prudence : tout équipement autonome piloté par Claude et capable d'infliger des blessures doit impérativement être placé sous la supervision constante d'un opérateur qualifié, capable d'interrompre le fonctionnement de la machine en cas de danger. Ces mesures soulignent la position de l'entreprise en faveur d'un contrôle rigoureux de l'IA face à son déploiement croissant dans des secteurs critiques.