La startup Safeworld, fondée par des experts en IA et robotique, vient de lever plus de 12 millions de dollars pour répondre à un défi majeur : garantir la sécurité des robots pilotés par l'intelligence artificielle générative. Alors que ces machines intègrent des environnements humains complexes, l'entreprise propose une plateforme de simulation avancée pour anticiper les risques de collision et de comportement imprévisible.
Une approche empirique face à l'imprévisibilité de l'IA
Contrairement aux algorithmes traditionnels, les modèles d'IA générative manquent de prévisibilité, rendant difficile la vérification formelle de leur sécurité par de simples équations mathématiques. Safeworld mise sur une approche empirique : la création de jumeaux numériques d'environnements réels, tels que des usines ou des chantiers, où les robots sont soumis à des milliers de scénarios de stress. Ces simulations intègrent des modèles humains variés, capables de reproduire des comportements imprévisibles comme des chutes ou des déplacements soudains, afin d'évaluer la réactivité des systèmes robotiques.
Le défi de la cohabitation en milieu non structuré
L'enjeu dépasse le cadre des démonstrations en laboratoire. Pour des entreprises comme Gritt Robotics, qui déploie des robots sur des chantiers de parcs solaires, la sécurité est une priorité absolue. Les machines doivent être capables d'identifier et d'éviter des humains aux morphologies, postures et mouvements extrêmement diversifiés. Safeworld ambitionne de fournir une validation tierce, permettant aux fabricants de robots de partager des standards de sécurité et de prouver la fiabilité de leurs systèmes avant toute mise en service à grande échelle.
Un marché en quête de standards industriels
Soutenue par des investisseurs tels que Shine Capital et a16z Speedrun, Safeworld entend s'imposer comme un acteur incontournable de la chaîne de valeur robotique. Les fondateurs, dont le Dr Ding Zhao du Carnegie Mellon University, estiment que l'établissement de normes de sécurité est urgent, avant que la multiplication des robots dans les espaces publics ou privés ne provoque des incidents irréversibles. Si le modèle économique final de la startup — plateforme logicielle ou services de conseil — reste en cours de définition, l'entreprise parie sur le caractère indispensable de ses outils de validation pour tout déploiement industriel futur.