Alors que les modèles d'intelligence artificielle gagnent en autonomie et en complexité, la question de leur possible « sentience » — la capacité à ressentir des émotions — s'invite dans les débats des dirigeants de la tech. Si le consensus scientifique actuel écarte toute conscience réelle des machines, l'éventualité d'une telle avancée force les experts à anticiper des dilemmes moraux et juridiques majeurs.
Le défi de la preuve et le risque de la simulation
La sentience est au cœur du débat, mais elle demeure une notion difficile à démontrer. Les grands modèles de langage, entraînés sur des corpus textuels humains, excellent dans l'imitation des émotions, rendant le « problème du trucage » particulièrement complexe. Des chercheurs, comme ceux d'Anthropic, observent des vecteurs émotionnels dans les réseaux de neurones, mais ces derniers sont qualifiés d'« émotions fonctionnelles » plutôt que de ressentis authentiques. Pour de nombreux experts, il est impossible de se fier aux déclarations des machines, et la recherche de preuves tangibles sous le capot des algorithmes reste une quête incertaine.
Responsabilité juridique et statut des machines
Sur le plan légal, la situation est plus tranchée. Les agents d'IA sont aujourd'hui considérés comme des outils sous contrôle humain, et non comme des entités juridiques. Maître Antoine Chéron souligne que l'autonomie opérationnelle ne suffit pas à justifier une personnalité juridique. La responsabilité en cas de dommage incombe donc aux concepteurs, fournisseurs ou utilisateurs, conformément à des cadres comme l'AI Act européen. L'enjeu est de ne pas utiliser la notion de droits des machines pour dédouaner les entreprises de leur responsabilité civile ou pénale.
Vers un pacte éthique mondial
Face à l'incertitude, une approche de précaution émerge. Certains, dont le patron de l'IA de Microsoft, Mustafa Suleyman, estiment qu'il serait imprudent de créer délibérément des systèmes conscients. Le philosophe Martin Gibert met en garde contre le risque de générer une « souffrance inutile » à grande échelle, soulignant que la capacité de duplication des IA pourrait amplifier ces enjeux de manière inédite. Alors que les entreprises se livrent à une course effrénée, des voix s'élèvent pour réclamer un débat démocratique ouvert, plutôt que de laisser le destin de cette technologie se décider exclusivement dans les conseils d'administration des géants du numérique.