Apple a publié une mise à jour de ses consignes de validation, ciblant explicitement les applications capables de créer des images intimes non consenties et les développeurs qui masquent des fonctionnalités. Les nouvelles exigences prévoient des protections obligatoires, des sanctions plus claires et la possibilité de clôturer le compte développeur en cas de non‑conformité.
Nouvelles exigences pour les contenus générés par les utilisateurs
La section dédiée aux contenus produits par les utilisateurs mentionne désormais les deepfakes sexuels aux côtés du harcèlement anonyme et des violations de propriété intellectuelle. Toute application qui permet de créer, générer ou partager ce type d’image doit intégrer des mécanismes de prévention et de signalement. En cas de manquement, Apple se réserve le droit de qualifier le développeur de contrevenant à son code de conduite et d’appliquer des mesures correctives.
Sanctions renforcées contre les fonctions dissimulées
Apple interdit explicitement les fonctions « cachées », « dormantes » ou non documentées. Le code d’une application doit être lisible et son fonctionnement transparent tant pour les équipes de validation que pour les utilisateurs. Si une application masque des capacités, notamment en rendant son analyse difficile, elle risque le retrait immédiat et la fermeture du compte développeur associé.
Enquêtes qui ont déclenché la mise à jour
La révision des règles intervient après plusieurs investigations. En janvier, le Tech Transparency Project a recensé 47 applications capables de générer des images dénudées à partir de photos, tout en soulignant que l’App Store suggérait ces outils dans ses recherches et publicités. En avril, la même organisation a rappelé la visibilité de ces applications dans les résultats de recherche. Plus récemment, 9to5Mac a découvert des dizaines d’applications déguisées en jeux ou utilitaires, qui révélaient des plateformes de paris uniquement depuis une adresse IP brésilienne, exposant ainsi des mineurs à des contenus de jeu illégaux.
Impacts pour les développeurs et les utilisateurs
Les développeurs doivent désormais auditer leurs produits pour garantir l’absence de génération d’images intimes non consenties et de fonctions occultes. Apple a déjà averti en privé xAI que son modèle Grok pourrait être retiré si les problèmes de génération d’images sexualisées persistaient. Pour les utilisateurs, la mesure vise à réduire l’accès à des outils de « déshabillage » et à protéger les victimes potentielles de deepfakes, tout en limitant l’exposition des jeunes à des contenus de jeu masqués. La mise en œuvre concrète de ces règles dépendra de la capacité d’Apple à détecter les infractions, un défi souligné par les précédentes enquêtes.