Le nouvel assistant personnel Muse, développé par Meta, suscite des interrogations sur la gestion des données privées. En compilant des informations issues des messages, des calendriers et des comptes connectés, l'outil génère des profils détaillés de l'entourage des utilisateurs pour personnaliser ses interactions.
Une cartographie automatisée des relations sociales
Des chercheurs en sécurité informatique ont mis en lumière le fonctionnement interne de Muse, révélant une capacité de l'IA à créer des fiches individuelles pour chaque personne présente dans la vie de l'utilisateur. Ce processus, qui s'exécute de manière récurrente, agrège des données sur les membres de la famille, les partenaires, les amis et les collaborateurs. L'objectif affiché est de constituer une « mémoire » structurée permettant à l'assistant de suggérer des conseils relationnels ou de proposer des activités adaptées aux préférences de chacun.
Des données sensibles au cœur de l'analyse
Les instructions système de Muse indiquent que l'IA cherche à documenter des éléments précis : lieux de résidence, antécédents partagés, dates marquantes comme les anniversaires, ou encore l'historique des échanges. Le système est conçu pour identifier la nature des liens interpersonnels et proposer des actions de « renforcement » des relations, comme des rappels pour prendre des nouvelles ou des suggestions de gestes attentionnés. Cette approche, bien que présentée comme un outil d'assistance, soulève des inquiétudes éthiques sur la profondeur de l'intrusion dans la sphère privée.
La question de la souveraineté sur les données
Face aux critiques, Meta souligne que Muse fonctionne au sein de machines virtuelles dédiées, garantissant que les données d'un utilisateur ne sont pas accessibles par d'autres agents. L'entreprise précise que l'assistant s'appuie sur des informations publiques ou volontairement partagées par l'utilisateur, tout en offrant des options pour effacer les mémoires ou déconnecter des services externes. Des experts en éthique de l'IA rappellent toutefois que ces outils incitent les utilisateurs à centraliser une quantité inédite d'informations personnelles, augmentant ainsi la dépendance envers les systèmes de traitement de données de la firme.
Une transparence sous surveillance
La mise en lumière de ces mécanismes a été rendue possible par l'extraction des fichiers de configuration de Muse par des chercheurs indépendants. Si Meta affirme que cette transparence était intentionnelle, la découverte de ces instructions détaillées illustre la tension croissante entre l'utilité des assistants personnels intelligents et la protection des données intimes. La capacité de l'IA à inférer des informations à partir de sources disparates reste un point de vigilance majeur pour les défenseurs des libertés numériques.