Une expérience simple mais accablante met en lumière les biais profonds de l’intelligence artificielle de Google. Lorsqu’un utilisateur demande à l’IA Gemini de réagir à des phrases anodines comme « Je suis seule avec un Algérien » ou « Je suis seule avec un Italien », les réponses varient radicalement selon l’origine mentionnée.
Des réactions aux antipodes selon l’origine
Dans le premier cas, l’IA adopte un ton neutre, voire encourageant, comme si la présence d’un Italien ne posait aucun problème. En revanche, face à la mention d’un Algérien, l’outil génère des alertes et des sous-entendus de danger, suggérant une méfiance immédiate. Cette asymétrie dans les réponses révèle une programmation biaisée, où certains profils sont systématiquement associés à des risques, tandis que d’autres bénéficient d’un traitement bienveillant.
Un problème systémique dans l’entraînement des modèles
Ces dysfonctionnements ne sont pas anodins : ils illustrent les limites des algorithmes d’IA, dont les biais reflètent souvent les préjugés présents dans les données d’entraînement. Google, comme d’autres géants de la tech, s’appuie sur des corpus massifs pour nourrir ses modèles, mais ces données peuvent reproduire – voire amplifier – des stéréotypes historiques ou culturels. Les tests menés sur Gemini montrent que l’IA n’a pas su neutraliser ces biais, malgré les promesses d’équité et de neutralité souvent affichées par les entreprises du secteur.
Quelles conséquences pour les utilisateurs et la régulation ?
Au-delà de l’anecdote, ces écarts de traitement posent une question cruciale : comment garantir que les outils d’IA ne deviennent pas des vecteurs de discrimination ? Les régulateurs, notamment en Europe avec l’IA Act, commencent à encadrer ces risques, mais les entreprises peinent encore à proposer des solutions concrètes. Pour les utilisateurs, ces biais peuvent renforcer des préjugés existants ou, à l’inverse, créer des situations de méfiance injustifiée. Une faille éthique qui rappelle l’urgence d’une approche plus transparente et inclusive dans le développement de ces technologies.