Le décès d'une femme de 31 ans, atteinte d'épilepsie, a déclenché une procédure judiciaire aux États-Unis visant OpenAI. La victime aurait cessé son traitement médical en suivant les recommandations fournies par l'outil d'intelligence artificielle ChatGPT.
Ce drame pose un jalon critique dans le débat sur l'encadrement des technologies génératives. Si l'usage de ces outils se généralise dans le quotidien, leur fiabilité dans des domaines aussi sensibles que la santé publique demeure une zone grise, tant sur le plan technique que juridique.
Une procédure judiciaire contre OpenAI
Les parents de la défunte ont officiellement porté plainte contre l'entreprise OpenAI, créatrice de ChatGPT. Cette action en justice cherche à établir le niveau de responsabilité de la firme dans la fourniture de conseils médicaux ayant conduit à l'arrêt d'un traitement vital. La plainte souligne les dangers potentiels liés à l'interaction directe entre des utilisateurs vulnérables et des systèmes automatisés non certifiés pour le diagnostic ou le suivi thérapeutique.
La position de l'entreprise face au drame
De son côté, OpenAI a réagi publiquement en qualifiant la situation de « profondément bouleversante ». L'entreprise, qui domine actuellement le secteur de l'intelligence artificielle générative, se retrouve confrontée à une mise en cause directe de la sécurité de ses algorithmes. Cette affaire pourrait contraindre les développeurs à renforcer les garde-fous éthiques et les avertissements de non-responsabilité médicale intégrés à leurs interfaces.
Les enjeux de la régulation des IA en santé
Au-delà du cas individuel, cet événement met en lumière un défi collectif majeur pour les décideurs et les régulateurs internationaux. La question centrale est celle de la fiabilité des informations délivrées par les modèles de langage. Alors que de nombreux citoyens se tournent vers ces outils pour obtenir des conseils de santé, l'absence de validation médicale des réponses générées par l'IA représente un risque sanitaire croissant. Ce dossier pourrait faire jurisprudence sur la manière dont les entreprises technologiques doivent limiter l'accès à des conseils médicaux critiques au sein de leurs plateformes.