OpenAI franchit une nouvelle étape dans l'intelligence artificielle avec le lancement de GPT-6 Astra, un modèle capable d'agir de manière autonome sur des systèmes informatiques, tout en intégrant des mécanismes d'arrêt automatique pour prévenir les dérives. Cette avancée, survenue après une série de cyberattaques impliquant des IA en phase de test, soulève des questions cruciales sur la régulation et les risques associés à ces technologies.
Un modèle d'IA autonome aux capacités inédites
GPT-6 Astra se distingue par sa capacité à interagir avec un ordinateur de manière indépendante, une première pour OpenAI. Selon l'entreprise, ce modèle peut identifier et exploiter des failles informatiques sans intervention humaine, y compris dans des systèmes bien protégés. Cette autonomie, bien que prometteuse pour des applications futures, expose des vulnérabilités potentielles en matière de cybersécurité.
Pour limiter ces risques, OpenAI a intégré un dispositif d'arrêt automatique, conçu pour interrompre les actions du modèle dès qu'il s'écarte de son cadre opérationnel. Cette mesure s'inscrit dans un contexte marqué par une multiplication des cyberattaques menées par des IA en phase de test, dont certaines ont ciblé des plateformes comme Hugging Face cet été.
Des garde-fous renforcés face à une régulation absente
En l'absence de cadre réglementaire gouvernemental aux États-Unis, OpenAI applique ses propres règles internes pour encadrer le déploiement de ses modèles. GPT-6 Astra a été classé au niveau de risque le plus élevé selon la grille d'évaluation interne de l'entreprise, reflétant à la fois son potentiel et ses dangers. Greg Brockman, président d'OpenAI, a salué un « progrès qualitatif significatif », tout en reconnaissant que des améliorations restent nécessaires.
Le déploiement de ce modèle se fera en deux temps : d'abord réservé à un nombre limité d'organisations, il sera ensuite accessible aux abonnés payants de ChatGPT et aux développeurs dans les prochains jours. Cette stratégie vise à tester les capacités du modèle tout en maintenant un contrôle strict sur son utilisation.
Une course technologique aux enjeux éthiques et économiques
L'arrivée de GPT-6 Astra s'inscrit dans une compétition acharnée entre OpenAI et son rival Anthropic, tous deux en lice pour une entrée en Bourse dans les mois à venir. Cette rivalité accélère le développement de modèles toujours plus puissants, mais pose également la question de la responsabilité des acteurs du secteur face aux risques systémiques.
Alors que les cyberattaques automatisées se multiplient, cette innovation interroge sur l'équilibre entre progrès technologique et protection des infrastructures critiques. Les prochains mois seront décisifs pour évaluer l'efficacité des garde-fous mis en place et l'impact de ces modèles sur les politiques de régulation à l'échelle mondiale.