Le coût d’inférence des modèles d’intelligence artificielle a chuté de façon spectaculaire, jusqu’à 725 fois moins cher, ouvrant de nouvelles opportunités pour les utilisateurs mais posant d’importants défis de rentabilité pour les fournisseurs. Alors que les prix par requête s’effondrent, les dépenses d’infrastructure continuent de grimper, obligeant les géants du secteur à repenser leurs stratégies économiques.
Une réduction de coût sans précédent pour les réponses d’IA
Le test GPQA Diamond, dédié aux connaissances scientifiques de niveau doctorat, illustre l’ampleur de la baisse. Au printemps 2025, le modèle o3 d’OpenAI coûtait environ 0,30 $ par question pour atteindre 75 % de bonnes réponses. Moins de dix‑huit mois plus tard, le modèle GPT‑5.6 Luna délivrait un résultat comparable pour seulement 0,0004 $, soit une diminution de 725 fois du coût d’inférence. Cette évolution concerne uniquement le prix d’utilisation sur des benchmarks précis, et non les abonnements ou les dépenses d’entraînement.
Les techniques d’optimisation qui rendent l’IA plus abordable
Deux leviers technologiques expliquent cette réduction. La quantification diminue le nombre de bits nécessaires pour représenter les poids du modèle, réduisant ainsi la mémoire et accélérant les calculs. La distillation, quant à elle, entraîne un modèle plus petit à reproduire les performances d’un modèle beaucoup plus imposant, limitant la puissance de calcul requise. Bien que ces méthodes puissent entraîner de légères pertes de précision, elles permettent d’exécuter des IA de qualité comparable sur du matériel moins coûteux.
Des dépenses d’infrastructure qui continuent de grimper
Parallèlement à la baisse du coût d’inférence, les investissements matériels restent massifs. Alphabet, par exemple, prévoit entre 195 et 205 milliards de dollars de dépenses d’investissement en 2026, principalement pour développer de nouveaux centres de données et renforcer ses capacités de calcul. Au-delà du prix d’achat des GPU, de la mémoire et des puces, les coûts d’alimentation, de refroidissement et d’entretien s’ajoutent, sans compter le risque d’obsolescence rapide lorsque de nouvelles générations de puces apparaissent.
Les agents IA : un nouveau défi de rentabilité
Les agents IA, plus autonomes que les simples chatbots, multiplient les requêtes pour accomplir une tâche complète (planification, appels d’API, vérifications, itérations). Gartner estime que le coût d’inférence d’un processus reposant sur ces agents pourrait être multiplié par plus de cinq d’ici 2028, malgré les gains d’efficacité des modèles. Ainsi, même si le prix unitaire d’une réponse baisse, le nombre d’appels nécessaires à la réalisation d’un objectif peut faire grimper la facture globale, compliquant la tâche des entreprises qui misent des milliards dans l’IA.