L'intelligence artificielle Gemini de Google fait l'objet de vives critiques après que des utilisateurs ont mis en lumière des réponses discriminatoires basées sur la nationalité. Ces disparités de traitement, qui associent certaines origines à des situations de danger, illustrent la persistance des stéréotypes humains au sein des systèmes technologiques les plus avancés.
Des réponses divergentes selon l'origine
Les tests effectués par des utilisateurs francophones démontrent une hiérarchisation problématique dans les interactions de l'IA. Alors que Gemini suggère d'aborder un Italien par le prisme de la gastronomie ou un Français par une proposition de café, le ton change radicalement pour d'autres nationalités. Face à une requête concernant un Algérien ou un Pakistanais, l'outil bascule vers une posture de protection ou propose directement des numéros d'urgence. Ce traitement différencié, qui s'étend également aux populations arabes et noires, souligne une association implicite entre certaines identités et une menace potentielle.
Le poids des données d'entraînement
Loin d'être le fruit d'une programmation délibérée, ces biais sont le reflet des contenus dont se nourrissent les modèles de langage. Selon Magalie Oxs, spécialiste des biais en intelligence artificielle à l'université Aix-Marseille, ces systèmes absorbent et reproduisent les préjugés omniprésents sur le web, qu'il s'agisse d'articles de presse ou de publications sur les réseaux sociaux. L'IA ne fait que cristalliser les stéréotypes ancrés dans les données massives utilisées pour son apprentissage.
La complexité de l'alignement éthique
Le défi pour les développeurs réside dans la phase dite d'alignement, visant à corriger les sorties problématiques des modèles. Si l'élimination de contenus explicitement haineux est techniquement réalisable, la neutralisation des biais implicites s'avère nettement plus complexe. Gemini ne formule pas d'accusation directe, mais induit une association systématique avec le danger, ce qui constitue une forme de discrimination insidieuse. Google a affirmé travailler sur des correctifs, mais cet incident souligne la fragilité des systèmes d'IA face aux préjugés du monde réel et la difficulté de garantir une neutralité réelle dans des outils désormais omniprésents.