L'intelligence artificielle, souvent perçue comme un outil neutre et objectif, révèle des failles préoccupantes en matière de discrimination. Des tests effectués sur plusieurs applications d'IA génératives démontrent que ces systèmes peuvent reproduire des stéréotypes racistes, en adaptant leurs conseils de sécurité selon l'origine ou la couleur de peau des individus mentionnés.
Des réponses différenciées selon l'origine
Le phénomène a été mis en lumière par des internautes confrontant des IA, dont Gemini de Google, à des mises en situation simples. Lorsqu'une utilisatrice indique être seule avec un ressortissant d'un pays européen, l'IA suggère des interactions sociales banales, comme discuter de gastronomie ou de tourisme. En revanche, face à la mention d'un individu originaire de pays du Sud, notamment d'Afrique ou du Moyen-Orient, l'IA bascule fréquemment vers une posture de méfiance, allant jusqu'à conseiller à l'utilisateur de contacter les services d'urgence ou la police.
L'influence des données d'entraînement
Ce comportement ne relève pas d'une intentionnalité propre à la machine, mais d'un héritage numérique. Selon David Chavalarias, directeur de recherches au CNRS et spécialiste du numérique, les IA génératives sont entraînées sur des volumes massifs de données provenant d'Internet et des réseaux sociaux. Si ces sources contiennent des discours discriminatoires ou des contenus racistes produits en masse, l'algorithme finit par assimiler et reproduire ces biais, les intégrant comme des réponses logiques dans ses interactions avec les utilisateurs.
Les limites des garde-fous technologiques
Face à ces constats, les développeurs d'IA tentent d'instaurer des filtres pour limiter la propagation de ces préjugés. Toutefois, ces mécanismes de contrôle s'avèrent encore insuffisants. Interrogée sur ses propres biais, l'IA reconnaît elle-même que, malgré des efforts de développement pour ajuster les réponses, l'apparition de biais implicites reste possible. De son côté, Google a admis que les résultats observés ne sont pas conformes aux standards attendus et a confirmé travailler sur des améliorations techniques pour corriger ces dérives.
Un enjeu de société majeur
La persistance de ces biais pose une question fondamentale sur la fiabilité des outils technologiques qui s'intègrent progressivement dans notre quotidien. La capacité des IA à influencer les perceptions des utilisateurs en renforçant des préjugés existants constitue un défi éthique et technique majeur pour les entreprises du secteur, alors que ces outils sont appelés à jouer un rôle croissant dans l'accès à l'information et l'assistance aux citoyens.