Face à l'intégration croissante de l'intelligence artificielle dans les processus décisionnels des entreprises, la direction de Microsoft appelle à une refonte des mécanismes de contrôle. Satya Nadella et Brad Smith préconisent l'instauration de protocoles de sécurité rigoureux pour éviter que ces technologies ne deviennent des « boîtes noires » incontrôlables.
Un mécanisme d'interruption d'urgence
Le directeur général de Microsoft, Satya Nadella, a formulé une proposition concrète pour sécuriser l'usage des modèles d'IA : la mise en place d'un « système de freinage d'urgence ». Ce dispositif permettrait aux opérateurs humains autorisés de suspendre instantanément toute tâche ou modèle en cas de comportement imprévu. Pour le dirigeant, il est impératif d'encadrer les modèles non-déterministes par des procédures robustes et vérifiables, afin de pallier l'insuffisance des normes actuelles du secteur.
Appliquer les standards de sécurité industrielle
La stratégie suggérée par Microsoft consiste à traiter les modèles d'IA comme des risques internes classiques. Satya Nadella souligne que les entreprises disposent déjà de méthodes éprouvées pour gérer les accès et les activités sensibles, telles que la limitation des prérogatives ou l'enregistrement des actions. L'objectif est de transposer ces pratiques de gouvernance aux systèmes d'IA pour prévenir les erreurs de fonctionnement ou les détournements malveillants, garantissant ainsi une meilleure traçabilité des responsabilités.
Le plaidoyer pour une régulation publique
De son côté, le président de Microsoft, Brad Smith, a mis en lumière le paradoxe réglementaire actuel. Il souligne que des produits de consommation courante, comme le lait ou les appareils électroménagers, sont soumis à des normes de sécurité et des inspections bien plus strictes que les systèmes d'intelligence artificielle. Cette prise de position s'inscrit dans un mouvement plus large au sein de la Silicon Valley, où des figures majeures du secteur, dont Bill Gates, Sam Altman et Elon Musk, alertent sur la nécessité d'une intervention des gouvernements pour encadrer une technologie dont le développement rapide dépasse les capacités d'autorégulation des entreprises.