Publié le 24 septembre 2025. Des investissements massifs dans l’intelligence artificielle générative se révèlent largement improductifs, selon une étude du MIT, pointant du doigt un problème d’infrastructure sous-jacent plutôt qu’un manque d’ambition.
- Les entreprises ont dépensé entre 30 et 40 milliards de dollars (USD) en projets pilotes d’IA générative en 2024.
- 95 % de ces projets n’ont généré aucun retour commercial mesurable, représentant une perte estimée de 30 milliards de dollars (USD) en valeur actionnariale.
- Le principal obstacle n’est pas le choix des modèles d’IA, mais l’incapacité des entreprises à traiter leurs données efficacement et à moindre coût.
L’engouement actuel pour l’intelligence artificielle générative se heurte à une réalité économique brutale : la plupart des entreprises peinent à transformer leurs investissements en résultats concrets. Une étude influente du Massachusetts Institute of Technology (MIT) révèle que près de 95 % des projets pilotes d’IA générative lancés en 2024 n’ont généré aucun retour sur investissement quantifiable. Cela représente une perte colossale, estimée à environ 30 milliards de dollars (USD) en valeur actionnariale détruite en un an seulement.
L’échec ne réside pas dans l’ambition démesurée des entreprises, mais dans une erreur stratégique récurrente : se concentrer sur les aspects les plus visibles de la technologie, au détriment des fondations qui la soutiennent. Selon des experts ayant travaillé chez Microsoft et SAP, les entreprises reproduisent un schéma classique en optimisant la mauvaise couche de leur infrastructure technologique. Elles se précipitent vers les modèles d’IA les plus récents et les applications les plus attrayantes, négligeant l’infrastructure de données essentielle pour les alimenter efficacement.
L’héritage analytique oublié
Avant que l’IA ne devienne l’objet de toutes les convoitises, les entreprises avaient investi massivement dans des systèmes d’analyse de données. Ces infrastructures, conçues pour des besoins plus modestes, géraient sans difficulté les rapports quotidiens grâce à des volumes de données limités, des charges de travail prévisibles et des coûts maîtrisés. L’arrivée de l’IA a bouleversé cet équilibre.
Le traitement nocturne des données est devenu un processus continu. Les échantillons de données se sont transformés en ensembles de données massifs. Les tâches par lots ont cédé la place à l’inférence en temps réel. L’infrastructure héritée de l’ère de l’analyse est tout simplement incapable de supporter le rythme et les coûts imposés par l’IA moderne.
C’est cette inadéquation fondamentale qui explique le taux d’échec alarmant de 95 % mis en évidence par l’étude du MIT. Selon les données de Flexera, environ un quart des dépenses liées au cloud des entreprises sont gaspillées en raison d’une utilisation inefficace des ressources, en particulier dans le traitement des données. Pour une entreprise dépensant 100 millions de dollars (USD) par an en services cloud, cela peut représenter des dizaines de millions de dollars perdus, des fonds qui pourraient être investis dans une véritable innovation en matière d’IA.
Le piège économique
L’ironie est que les entreprises continuent d’investir massivement dans des infrastructures de bases de données et d’analyse, tout en privant de ressources la seule couche technologique capable de rendre l’IA économiquement viable. Elles construisent des gratte-ciel sur des fondations conçues pour des bâtiments de faible hauteur. De nombreuses entreprises ne traitent que 20 à 30 % de leurs données disponibles, car le traitement de l’ensemble des données ferait exploser leurs budgets de calcul de 5 à 10 fois.
Un détaillant figurant au palmarès Fortune 100, avec lequel un expert a collaboré, disposait de 15 ans de données d’interaction client, mais ne pouvait se permettre d’en traiter que 30 %. Son IA fonctionnait donc à l’aveugle, et la direction ne comprenait pas pourquoi les résultats étaient décevants. Une fois pris dans ce cercle vicieux, il s’auto-alimente : des données incomplètes produisent des résultats médiocres, les dirigeants remettent en question le retour sur investissement de l’IA, les budgets sont réduits, et les équipes traitent encore moins de données. Le projet pilote finit inévitablement par être abandonné.
La solution, selon cet expert, ne réside pas dans l’ambition, mais dans l’architecture. Il a quitté le secteur des grandes entreprises technologiques pour se consacrer à la résolution de ce problème à la base. Son expérience montre que la modernisation des infrastructures de traitement des données peut réduire les coûts de plus de 50 % et améliorer les performances d’un ordre de grandeur.
L’inadéquation architecturale
Les infrastructures de traitement de données actuelles ont été conçues à une époque où l’informatique reposait sur des rangées de serveurs identiques. Or, le paysage technologique a radicalement évolué, avec une infrastructure moderne intégrant des processeurs, des GPU, des FPGA et des accélérateurs d’IA personnalisés, répartis dans des environnements cloud hybrides.
La couche logicielle n’a pas suivi cette évolution. La plupart des moteurs de données reposent toujours sur une architecture universelle, incapable d’acheminer automatiquement les tâches vers le matériel le plus approprié. En conséquence, des accélérateurs coûteux restent inactifs, tandis que les serveurs traditionnels sont surchargés de tâches qu’ils pourraient accomplir plus lentement et plus coûteusement.
Les entreprises paient le prix fort pour les dernières technologies, mais ne parviennent pas à atteindre les niveaux de performance attendus. Tant que la couche logicielle ne sera pas capable d’adapter chaque charge de travail au meilleur matériel disponible, cet écart d’efficacité continuera de freiner les progrès de l’IA.
Pourquoi l’optimisation est plus réaliste que la refonte
Vingt ans d’expérience dans l’informatique d’entreprise ont appris à cet expert que les projets de transformation radicale sont souvent illusoires. Les responsables des systèmes d’information disposent de budgets limités et sont constamment soumis à la pression de réduire les coûts tout en améliorant les capacités. C’est pourquoi les approches de type « remplacement intégral » échouent généralement : les coûts de migration et les risques opérationnels dépassent les budgets réalistes.
Les entreprises qui réussissent dans le domaine de l’IA ne déploient pas une infrastructure fondamentalement différente, mais gèrent leur infrastructure existante de manière beaucoup plus efficace. Une importante plateforme de commerce électronique, traitant quotidiennement un demi-pétaoctet de données, a multiplié sa vitesse de traitement par trois et réduit ses coûts de 80 % sans modifier son code ni migrer vers une nouvelle infrastructure. Une plateforme sociale comptant 350 millions d’utilisateurs a obtenu une amélioration de ses performances de 2 fois et des économies de coûts de 50 % en utilisant le même modèle.
En acheminant intelligemment les opérations entre les CPU, les GPU et les processeurs spécialisés, il est possible d’extraire des gains considérables de l’infrastructure existante.
Un point d’inflexion stratégique
Les leaders de la prochaine décennie ne seront pas ceux qui disposeront des modèles d’IA les plus performants ou des applications les plus spectaculaires. Ce seront ceux qui résoudront en premier le problème de l’économie des données, en traitant des ensembles de données complets à un coût durable. Cet expert a observé ce schéma se reproduire à chaque changement majeur d’infrastructure : les premiers utilisateurs se concentrent sur les fonctionnalités, tandis que les leaders durables optimisent les fondations.
La question que les dirigeants d’entreprise doivent se poser n’est pas de savoir quels modèles déployer, mais de savoir si leur infrastructure peut traiter toutes leurs données à un coût que l’organisation peut réellement supporter. Si la réponse est non – et c’est le cas pour la plupart des entreprises aujourd’hui – chaque initiative d’IA comporte un risque d’échec. Cet angle mort de l’infrastructure n’est pas seulement un problème technique, mais aussi une opportunité stratégique déterminante pour la prochaine décennie.
Les opinions exprimées dans cet article sont celles de leur auteur et ne reflètent pas nécessairement les opinions de Fortune.
