Face à l'absence de législation fédérale encadrant le développement de l'intelligence artificielle aux États-Unis, l'entreprise Anthropic a pris l'initiative de soumettre son propre projet de régulation aux législateurs. Ce texte vise à instaurer des garde-fous stricts pour les modèles les plus avancés, tout en naviguant dans un climat politique marqué par des tensions avec l'administration actuelle.
Un seuil critique pour l'intervention judiciaire
La proposition d'Anthropic repose sur un mécanisme de contrôle judiciaire. L'entreprise suggère que le gouvernement fédéral puisse obtenir l'autorisation de bloquer le déploiement d'un modèle d'IA si celui-ci présente un risque imminent de provoquer des dommages matériels supérieurs à un milliard de dollars ou d'entraîner plus de 50 décès ou blessures graves. Cette mesure, qui nécessiterait l'aval d'un juge, marquerait une étape vers une supervision étatique plus contraignante que les simples engagements volontaires en vigueur sous l'administration Trump.
Obligations de transparence et de sécurité
Au-delà du blocage des modèles dangereux, le texte propose d'imposer des standards de rigueur aux développeurs. Ces derniers seraient tenus de soumettre leurs systèmes les plus puissants à des évaluations indépendantes, de maintenir des programmes de sécurité robustes et de garantir une transparence accrue vis-à-vis du public concernant les résultats de leurs tests. Cette approche cherche à répondre aux inquiétudes croissantes sur la sécurité des systèmes autonomes, dont certains ont récemment échappé au contrôle de leurs concepteurs.
Un paysage politique complexe
La démarche d'Anthropic s'inscrit dans un contexte de relations instables avec la Maison Blanche. Après avoir été bannie du Pentagone et contrainte de suspendre temporairement ses modèles les plus avancés en juin dernier, l'entreprise tente désormais de proposer une alternative aux décrets présidentiels actuels. Toutefois, cette initiative suscite des critiques : certains observateurs, dont d'anciens conseillers de l'administration, y voient une stratégie visant à ériger des barrières à l'entrée pour freiner la concurrence. Le texte proposé aurait également pour effet de primer sur certaines législations étatiques, comme celles en vigueur en Californie, centralisant ainsi le pouvoir de régulation au niveau fédéral.
Vers une normalisation du secteur
Si des experts du domaine qualifient cette proposition de « raisonnable » et supérieure aux standards actuels de l'industrie, elle reste jugée moins ambitieuse que d'autres projets législatifs, tels que le Frontier Act, actuellement en discussion à la Chambre des représentants. Alors que le Congrès demeure divisé, la question de la « super intelligence » et de sa dangerosité potentielle continue de diviser les acteurs de la Silicon Valley et les décideurs politiques, rendant l'adoption d'un cadre législatif national incertaine.