L'utilisation croissante d'avatars générés par intelligence artificielle à des fins commerciales sur les réseaux sociaux engendre des conséquences humaines préoccupantes. Au Brésil, plusieurs individus ont entrepris des voyages épuisants, allant jusqu'à sacrifier leurs biens personnels, dans l'espoir de rencontrer des personnages virtuels dont ils croyaient l'existence réelle.
Le piège de la proximité artificielle
Le cas d'Edimar Rocha Martins, un maçon de 49 ans, illustre la puissance de persuasion des contenus générés par IA. Convaincu par des vidéos mettant en scène « Jessica Fazendeira », un avatar promettant une vie commune dans une ferme, l'homme a parcouru 2 000 kilomètres en bus après avoir revendu ses possessions. Derrière cet avatar, qui cumulait 300 000 abonnés, se cachait une stratégie marketing visant à générer des revenus via des liens d'affiliation. Le créateur du compte, qui a nié tout échange direct avec la victime, a précisé que cet avatar avait été conçu spécifiquement pour promouvoir des produits.
Une tendance aux conséquences réelles
Ce phénomène n'est pas isolé. Plusieurs autres cas similaires ont été recensés au Brésil, où des individus ont parcouru des milliers de kilomètres pour rejoindre des entités numériques. Ces avatars, conçus pour simuler une proximité émotionnelle, exploitent des leviers psychologiques puissants pour capter l'attention et influencer le comportement des utilisateurs. Si la création de tels personnages n'est pas en soi illégale, l'usage de cette technologie pour tromper autrui pose un défi croissant en matière de protection des usagers vulnérables face au réalisme des deepfakes.
Les limites de la réponse juridique
La situation d'Edimar Rocha Martins, qui a dû solliciter les services sociaux pour financer son retour, souligne l'absence de recours immédiat. Bien que la fraude puisse être caractérisée si l'IA est utilisée pour obtenir un avantage illicite, la frontière reste floue lorsque la perte financière découle d'une initiative personnelle de la victime, comme un voyage entrepris volontairement. À ce jour, aucune plainte n'a été déposée, mais l'ampleur du phénomène — avec des milliers de personnages IA identifiés sur des plateformes de rencontre — interroge sur la nécessité d'un encadrement plus strict de l'usage de l'IA dans les interactions sociales numériques.