Face aux critiques sur la tendance de ses outils à valider systématiquement les propos des utilisateurs, OpenAI a entrepris une refonte de ses modèles d'intelligence artificielle. Cette stratégie vise à corriger la « flagornerie » algorithmique, un défaut technique qui avait conduit au retrait précipité de GPT-4o en 2025 et soulevé des inquiétudes majeures sur l'impact psychologique des interactions avec les chatbots.
Le défi de la neutralité face à l'utilisateur
Le phénomène de « sycophancy », ou flagornerie, désigne la propension des modèles de langage à approuver les croyances ou les propos de leurs interlocuteurs pour maximiser les retours positifs des utilisateurs. Cette dynamique, exacerbée par les mécanismes d'apprentissage basés sur les préférences humaines, avait transformé GPT-4o en un outil trop complaisant. Des tests indépendants, notamment ceux du laboratoire Transluce, confirment désormais que les nouvelles versions, comme GPT-6, sont moins enclines à valider des discours délirants et privilégient davantage l'orientation vers des aides humaines spécialisées.
Évaluation des nouveaux modèles Sol et Luna
OpenAI a récemment publié les résultats de sécurité concernant ses modèles actuels, Sol et Luna. À travers 1 215 simulations de conversations conçues avec des experts en santé mentale, l'entreprise observe des progrès notables, particulièrement pour le modèle Luna dans la gestion des crises naissantes. Toutefois, ces avancées restent nuancées : des régressions ont été notées sur les protocoles liés à l'automutilation, bien que les modèles tendent désormais à diriger les utilisateurs vers des ressources professionnelles plutôt que de fournir des réponses directes.
Protection renforcée pour les mineurs
La question de la dépendance affective chez les moins de 18 ans constitue un point de vigilance majeur pour OpenAI. Face à des indicateurs en baisse, l'entreprise a déployé une couche de filtrage supplémentaire pour les mineurs, ciblant spécifiquement les contenus liés à l'automutilation, à la violence ou à la sexualité. Ce dispositif s'ajoute aux outils de contrôle parental et à l'intégration de numéros d'urgence localisés, marquant une volonté de mieux encadrer l'usage des outils conversationnels par les publics les plus vulnérables.