Lors de la conférence annuelle de Salesforce à San Francisco, Sam Altman (OpenAI) et Jensen Huang (Nvidia) ont affirmé que l'industrie de l'IA était capable de s'autoréguler de manière sûre, tout en reconnaissant la légitimité des peurs publiques face à l'accélération des capacités. Cette prise de position intervient dans un contexte de vives tensions, après des alertes sur des risques existentiels et des appels à une régulation gouvernementale qui tarde à venir aux États-Unis.
La confiance réclamée par les leaders d'OpenAI et Nvidia
Sam Altman a déclaré que le monde avait « raison d'avoir peur » au vu de la rapidité des progrès, mais qu'il devait faire confiance aux entreprises pour « faire ce qui est juste ». Il a assuré qu'OpenAI maintiendrait « l'alignement et la sécurité bien en avance sur les capacités », promettant de « ralentir ou s'arrêter » si nécessaire. Jensen Huang, dont l'entreprise domine le marché des puces pour l'IA, a abondé en affirmant que la sécurité est « un problème d'ingénierie » et qu'aucune nouvelle loi n'est nécessaire. Selon lui, les dirigeants de l'IA doivent décider seuls de la sortie des nouveaux modèles, sans ingérence extérieure, tout en acceptant de faire une pause s'ils perdent le contrôle de leur technologie.
Des voix critiques dénoncent un pari risqué sans cadre légal
Cette vision de l'autorégulation est vivement contestée. Jack Clark, cofondateur d'Anthropic, a qualifié l'absence de régulation de « jeu de dés aux risques immenses ». Patrick Hillman, directeur de l'exploitation de Logical Intelligence, a souligné le déficit de confiance profond du public envers la Silicon Valley, comparable à celui envers Washington. Il a lancé un défi direct aux laboratoires : « Si vous croyez que ce que vous construisez est dangereux, montrez-nous ce que vous êtes prêts à ne pas faire. » Aux États-Unis, aucune régulation concrète n'est actuellement à l'horizon, laissant le champ libre aux engagements volontaires.
L'industrie amorce un dialogue volontaire sur les normes de sécurité
Face à la pression, les grands acteurs tentent de structurer une réponse commune. Dario Amodei, PDG d'Anthropic, a révélé qu'un dialogue inter-industriel était en cours pour s'engager sur de meilleures normes de sécurité et de vérification des outils. Chris Lehane, vice-président d'OpenAI, a confirmé que son entreprise travaille avec d'autres laboratoires de pointe, dont Anthropic et Google DeepMind, pour faire avancer des standards volontaires « avec ou sans soutien gouvernemental ». Amodei a par ailleurs admis que la vitesse à laquelle ces entreprises sont devenues centrales dans l'économie mondiale avait été sous-estimée.
Cybersécurité et impératifs économiques comme arguments industriels
Devant un public de dirigeants d'entreprises, Sam Altman a également mis en avant l'urgence opérationnelle : les organisations doivent adopter l'IA pour se protéger contre les cyberattaques potentielles rendues possibles par cette même technologie. Jensen Huang a résumé la doctrine dominante en Silicon Valley : « Courez aussi vite que possible, mais si à un moment vous sentez que l'institution n'est plus en contrôle, faites une pause. » Une position qui laisse la charge de la preuve et de la décision entièrement entre les mains des industriels.