Les négociations internationales visant à encadrer le développement des systèmes d'armes létaux autonomes ont échoué à Genève, en raison de l'opposition de la Russie. Ce blocage maintient un vide juridique préoccupant face à une technologie capable de sélectionner et d'attaquer des cibles sans intervention humaine directe.
La position nuancée du Comité international de la Croix-Rouge
Le CICR ne prône pas une interdiction totale des systèmes autonomes, reconnaissant l'utilité historique de dispositifs comme les systèmes antimissiles navals. Toutefois, l'institution insiste sur la nécessité de bannir deux catégories spécifiques : les armes ciblant directement les êtres humains et celles dont le comportement opérationnel est jugé imprévisible. Le cœur de l'enjeu juridique réside dans la responsabilité : selon les experts du CICR, une machine ne pouvant être tenue pour responsable d'une violation du droit international, le commandant doit impérativement conserver le contrôle de chaque usage de la force.
Les risques liés à l'imprévisibilité de l'intelligence artificielle
L'intégration de l'intelligence artificielle dans l'armement soulève des inquiétudes majeures quant au respect du droit de la guerre. La distinction entre civils et combattants, pilier fondamental des conventions internationales, pourrait être compromise par des algorithmes faillibles. Cordula Droege, directrice du droit international au CICR, souligne que la course aux armements actuelle favorise le déploiement de robots capables de choisir leurs cibles de manière autonome, augmentant ainsi le risque d'erreurs aux conséquences humanitaires irréversibles.
La menace d'une prolifération incontrôlée
Au-delà des enjeux étatiques, des organisations comme le Future of Life Institute alertent sur la facilité d'accès à ces technologies. Contrairement aux arsenaux nucléaires, les systèmes autonomes pourraient être acquis ou fabriqués par des acteurs non étatiques ou des groupes criminels, rendant leur prolifération difficile à endiguer. Pour Human Rights Watch, l'incapacité des États à s'accorder à Genève laisse le champ libre à une avancée technologique rapide, sans garde-fous, au moment même où la communauté internationale aurait besoin d'un cadre normatif clair pour prévenir une escalade technologique dangereuse.