Meredith Whittaker, figure influente de la tech et directrice de la Signal Foundation, rejette les récits apocalyptiques sur une IA qui échapperait au contrôle humain. Pour elle, le danger immédiat réside dans l'intégration irréfléchie de systèmes automatisés dans des processus critiques, notamment militaires, où les erreurs de données peuvent avoir des conséquences tragiques.
Les risques réels de l'automatisation militaire
L'ancienne employée de Google, devenue une voix critique de la Silicon Valley, pointe du doigt les dérives liées à l'utilisation de l'IA dans la défense. Elle cite notamment le projet Maven, un contrat de ciblage par drones qu'elle avait combattu en 2017 avec des milliers de collègues. Selon elle, la réduction du temps de réflexion humain dans la « chaîne de destruction » favorise la validation de renseignements erronés. Elle établit un parallèle direct entre ces technologies et des frappes militaires ayant touché des cibles civiles, soulignant que l'automatisation ne garantit en rien la précision, mais risque au contraire de légitimer des données obsolètes ou fausses.
La défense intransigeante du chiffrement
Au-delà de l'IA, Meredith Whittaker défend fermement le chiffrement de bout en bout proposé par l'application Signal. Face aux pressions gouvernementales, notamment au Royaume-Uni, visant à affaiblir ces protections au nom de la sécurité des mineurs, elle maintient une position radicale : Signal préférerait quitter un marché plutôt que de compromettre la confidentialité de ses utilisateurs. Elle souligne que le chiffrement est un outil de survie pour les populations vulnérables, des femmes victimes de violences aux citoyens vivant sous des régimes autoritaires, et que l'affaiblir exposerait ces personnes à des risques accrus de surveillance.
Le principe universel des droits fondamentaux
Interrogée sur l'utilisation détournée des outils de communication par des individus malveillants, Whittaker refuse de céder à la tentation de la surveillance généralisée. Elle compare le chiffrement à un espace privé, tel qu'un domicile, où les conversations ne devraient pas être scrutées par des tiers, quels que soient les acteurs impliqués. Pour elle, les droits fondamentaux à la vie privée doivent s'appliquer sans exception, car toute brèche créée pour surveiller des comportements répréhensibles finit inévitablement par être utilisée contre des citoyens innocents ou des voix dissidentes. Cette approche, qu'elle qualifie de nécessaire, place la protection des données au cœur de la sécurité individuelle et collective.
Une culture tech à réinventer
Forte de son parcours au sein des plus grandes entreprises technologiques, Whittaker encourage les femmes à intégrer le secteur tout en conservant une posture d'indépendance intellectuelle. Elle dénonce une culture de la déférence envers l'autorité, qu'elle juge dangereuse dans des environnements complexes. Son message est clair : la résilience face aux pressions hiérarchiques et la capacité à remettre en question les décisions techniques sont essentielles pour éviter que les outils technologiques ne deviennent des instruments de tyrannie ou d'imprudence systémique.