Face à la montée des inquiétudes concernant l'impact des agents conversationnels sur la santé mentale des jeunes, Apple renforce sa politique de modération sur l'App Store. Dès le 16 novembre, les applications proposant des interactions romantiques ou sexuelles avec des intelligences artificielles seront systématiquement classées comme réservées aux adultes.
Un nouveau protocole de déclaration pour les développeurs
La firme de Cupertino impose une mise à jour des informations fournies par les éditeurs via la plateforme App Store Connect. Ces derniers devront désormais répondre explicitement à deux questions : la capacité de l'application à partager la position géographique de l'utilisateur et la nature des interactions proposées, notamment si elles incluent des relations sentimentales ou sexuelles avec des compagnons virtuels. Toute application répondant positivement à ces critères se verra automatiquement attribuer une restriction d'âge de 18 ans, entraînant son retrait des comptes soumis au contrôle parental.
L'enjeu de la santé mentale face aux chatbots
Cette décision intervient dans un contexte de forte exposition des adolescents aux technologies d'IA. Selon une étude de l'ONG Common Sense Media, près de 72 % des adolescents américains âgés de 13 à 17 ans ont déjà eu recours à des compagnons virtuels. Cette omniprésence soulève des questions critiques : l'American Psychological Association a récemment alerté sur la difficulté pour les jeunes de distinguer l'empathie simulée par un algorithme d'une réelle connexion humaine. Des cas de relations jugées malsaines, voire tragiques, ont poussé les autorités à exiger une meilleure responsabilité des éditeurs quant à l'impact de leurs outils sur les mineurs.
Un calendrier de mise en conformité
Si les grandes plateformes de rencontre appliquaient déjà des restrictions d'âge, ce sont surtout les applications de compagnons IA, telles que Replika ou Character AI, qui sont visées par ce changement de paradigme. Apple a fixé une échéance au 12 janvier 2027 pour que l'ensemble des développeurs se conforment à ces nouvelles exigences de transparence. Si la firme n'a pas encore détaillé les sanctions encourues en cas de non-respect, cette mesure marque une étape supplémentaire dans la stratégie de protection des utilisateurs, après l'introduction récente d'outils de contrôle parental renforcés sur iOS.