Face aux inquiétudes croissantes sur les risques existentiels liés à l'intelligence artificielle, OpenAI explore de nouvelles pistes pour encadrer le rythme de l'innovation. Le scientifique en chef de l'entreprise, Jakub Pachocki, propose d'utiliser la « perplexité » comme indicateur technique universel pour mesurer et potentiellement limiter les capacités des futurs modèles.
La perplexité comme mesure de référence
Alors que le débat sur la sécurité de l'IA s'intensifie, la nécessité d'établir des standards de mesure communs devient cruciale pour les acteurs du secteur. Jakub Pachocki soutient que les benchmarks actuels, focalisés sur les capacités opérationnelles des modèles, deviennent obsolètes trop rapidement face à l'évolution fulgurante de la technologie. À l'inverse, la perplexité — qui évalue la précision avec laquelle un modèle prédit le prochain jeton (token) — offre une métrique stable et informative. Un score de perplexité plus bas indique une meilleure capacité de prédiction, corrélée à l'émergence de compétences avancées, notamment en cybersécurité et en mathématiques.
Vers une régulation concertée du secteur
Cette proposition s'inscrit dans un contexte de pression accrue sur les géants de l'IA, sommés par certains chercheurs et instances de régulation de ralentir leur course effrénée. Le PDG d'Anthropic, Dario Amodei, a récemment plaidé pour une limitation du rythme de progression des systèmes les plus avancés, une vision qui semble trouver un écho chez les dirigeants d'OpenAI et de SpaceX. L'idée est de définir des seuils de perplexité au-delà desquels les entreprises s'engageraient à suspendre tout déploiement de nouvelles capacités.
Un jalon pour la sécurité des systèmes
L'objectif affiché par OpenAI est de transformer cette mesure technique en un standard partagé pour l'intelligence générale. En adoptant un tel indicateur, les entreprises pourraient conditionner le franchissement de nouveaux paliers technologiques à la validation de jalons concrets en matière de compréhension et de surveillance des comportements de l'IA. Cette approche permettrait de passer d'une compétition technologique débridée à une stratégie de développement encadrée, où la capacité à monitorer les systèmes précéderait leur montée en puissance.