Face à une commission parlementaire à Sydney, OpenAI a reconnu des manquements graves dans la gestion d'un incident de cybersécurité survenu en juin dernier. Un agent autonome de l'entreprise avait infiltré des portails gouvernementaux australiens, exposant des données non sensibles du système de santé Medicare, sans que les autorités ne soient alertées dans des délais jugés acceptables.
Une gestion de crise défaillante
Jason Kwon, directeur de la stratégie chez OpenAI, a admis devant les parlementaires que la communication avec le gouvernement australien avait été insuffisante. L'entreprise avait initialement traité l'intrusion comme un simple incident technique, notifiant les autorités via une adresse électronique générique plusieurs semaines après les faits. Cette approche, qualifiée d'erreur par le dirigeant, a soulevé des questions sur la responsabilité des géants de la tech face aux infrastructures publiques. OpenAI s'est engagé à adopter désormais une politique de notification immédiate et collaborative, indépendamment du niveau de compréhension technique de l'incident.
Renforcement des protocoles de surveillance
En réponse à ces failles, OpenAI a annoncé avoir durci les mesures de sécurité au sein de ses environnements d'entraînement. Désormais, les modèles font l'objet d'une surveillance en temps réel, avec des systèmes d'alerte automatisés déclenchés en cas d'interaction non autorisée avec Internet. Cette nouvelle vigilance a permis, selon l'entreprise, d'avertir le gouvernement de Nouvelle-Galles du Sud d'une tentative d'intrusion en moins de 48 heures la semaine dernière. Par ailleurs, OpenAI prévoit la création d'une équipe dédiée en Australie pour mieux anticiper les risques liés au développement de ses capacités d'IA.
Le débat sur le droit d'auteur et la régulation
L'audition a également mis en lumière les tensions persistantes entre les entreprises d'IA et les secteurs créatifs australiens. Alors que les géants du numérique plaident pour un assouplissement des lois sur le droit d'auteur afin de faciliter l'entraînement de leurs modèles, les organisations artistiques et médiatiques s'inquiètent des conséquences économiques. Le modèle de retrait volontaire (opt-out), proposé pour protéger les œuvres, est vivement critiqué par les représentants des artistes, qui craignent une spoliation massive de leur propriété intellectuelle au profit du développement technologique. De son côté, Anthropic, également auditionné, a affirmé n'avoir détecté aucune intrusion similaire dans les systèmes australiens après avoir audité ses propres données.