Menlo : Le marché des LLM se tourne vers les apps verticales et la stabilité

L’adoption rapide des grands modèles linguistiques (LLM) au sein des entreprises poursuit son ascension fulgurante, certains secteurs signalant des hausses d’utilisation de près de 150 % d’une année sur l’autre. Pourtant, cette trajectoire de croissance s’accompagne d’un refroidissement significatif des investissements dans l’infrastructure qui ont autrefois alimenté le boom, les nouveaux capitaux affluant dans ce domaine étant maintenant réduits de plus de moitié par rapport à l’année dernière. Ce changement dynamique marque un moment pivot dans le paysage de l’IA générative (GenAI), comme détaillé dans la mise à jour du marché des LLM de mi-année 2025 de Menlo Ventures. Le rapport offre une perspective fondée sur la maturation de l’industrie, illustrant un pivot clair loin des modèles larges et à usage général et des expériences d’agents préliminaires vers des applications plus ciblées, des flux de travail spécialisés et un accent plus marqué sur la fourniture de résultats commerciaux tangibles.

Un thème central souligné par Menlo Ventures, une société de capital-risque spécialisée dans l’IA, l’infrastructure et les logiciels d’entreprise, est la réduction drastique des investissements en infrastructure. Tout au long de 2024, les plateformes de formation de modèles, les outils d’orchestration et les bases de données vectorielles ont attiré un financement substantiel. Cependant, à la mi-2025, le volume des transactions dans ces catégories a chuté de plus de 50 %. Ce déclin est largement attribué aux avancées rapides des modèles open source comme Mixtral, Claude et LLaMA 3, qui ont rendu beaucoup plus facile et plus rentable pour les entreprises de s’appuyer sur des systèmes existants plutôt que de développer les leurs à partir de zéro. Simultanément, les dépenses en API de modèles — des interfaces de programmation d’applications qui permettent aux développeurs d’intégrer des modèles pré-entraînés dans leurs applications — ont presque quadruplé au cours de la dernière année, diminuant encore davantage le besoin pour les entreprises de construire ou d’opérer leurs propres modèles fondamentaux. Par conséquent, l’avantage concurrentiel autrefois détenu par les fournisseurs d’infrastructure s’érode, la simple capacité de servir ou d’affiner un modèle n’étant plus suffisante pour se différencier sur le marché.

Au lieu de cela, la valeur se concentre de plus en plus autour des entreprises qui s’intègrent de manière transparente dans les flux de travail existants, exploitent des données propriétaires ou se spécialisent dans la résolution de problèmes au sein de domaines spécifiques. L’analyse de Menlo suggère que les acteurs les plus performants ne tentent pas de reconstruire l’ensemble de la pile technologique. Au contraire, ils utilisent stratégiquement les meilleurs outils disponibles, concentrant leurs efforts sur la couche d’application où les utilisateurs ressentent directement l’impact. Cela signale un changement fondamental, comme l’explique le rapport, des « plateformes horizontales aux piles verticales ». Les startups les plus prometteuses sont celles qui « résolvent des problèmes pour un utilisateur spécifique dans un domaine spécifique », regroupant « l’expérience utilisateur, les flux de travail, les données et les intégrations spécifiques au domaine ». Ces acteurs spécialisés obtiennent une traction plus rapide, démontrant une meilleure adéquation produit-marché et des stratégies de mise sur le marché plus efficaces, en particulier lorsqu’elles sont combinées à des techniques comme la génération augmentée par récupération (RAG), qui améliore les réponses du modèle avec des données externes. Dans ce paysage en évolution, les startups qui contrôlent les canaux de distribution ou possèdent des ensembles de données uniques s’avèrent bien plus défendables que celles qui construisent principalement de l’infrastructure pure.

La maturation est également évidente dans le développement d’agents, qui devient nettement plus ciblé et pratique. Après une période initiale d’enthousiasme entourant les agents à usage général qui promettaient souvent des capacités larges mais peu fiables, le marché gravite maintenant vers des outils conçus pour des tâches répétables. Les applications pratiques incluent la synthèse de documents, la génération de leads et l’extraction de données structurées. Cet accent renouvelé sur la fiabilité remodèle la façon dont les startups d’IA sont évaluées par les investisseurs, qui examinent maintenant les fondamentaux commerciaux clés tels que la vitesse de livraison de la valeur, les marges bénéficiaires et la rétention des clients. En réponse, de nombreuses startups affinent leurs offres, regroupent des services ou simplifient leurs approches de vente.

Simultanément, des sociétés de logiciels plus établies entrent activement dans l’espace GenAI, intégrant des fonctionnalités LLM directement dans les produits que leurs clients existants utilisent déjà. Cela leur confère un avantage significatif, tirant parti des bases d’utilisateurs préexistantes, de la confiance établie et d’une portée de marché étendue que les nouvelles startups d’IA s’efforcent encore de construire. Menlo anticipe que cette tendance conduira à une consolidation accrue du marché et à une réduction du nombre d’entreprises tentant de posséder l’ensemble de la pile d’IA. Les acheteurs d’entreprise, eux aussi, mûrissent dans leur adoption de la GenAI, beaucoup étant maintenant dans leurs deuxième ou troisième cycles de déploiement. Leurs priorités sont passées des solutions expérimentales à celles qui sont sécurisées, stables et gérables. Même ainsi, certains domaines gagnent du terrain, notamment l’observabilité des agents, les systèmes axés sur la conformité, les pipelines RAG automatisés et les plateformes de données synthétiques, que Menlo identifie comme des moteurs clés pour la prochaine vague de GenAI d’entreprise.

Ce changement dans les priorités des acheteurs influence également la sélection des LLM. Bien qu’OpenAI reste l’API la plus utilisée, sa part de marché a diminué de 80 % à 59 % au cours des deux dernières années. Claude et Mistral gagnent régulièrement du terrain, en particulier dans les secteurs privilégiant la rentabilité ou la conformité réglementaire. De plus, l’utilisation des LLM se diversifie de plus en plus, de nombreuses équipes adoptant des stratégies multi-modèles, mélangeant et associant les fournisseurs en fonction du prix, des performances et de l’adéquation de la tâche. Claude a vu à lui seul son utilisation en entreprise passer de seulement 3 % à 16 % en une seule année. Il y a également un intérêt croissant pour les modèles open source, dont les améliorations rapides offrent aux entreprises une plus grande flexibilité et réduisent la dépendance vis-à-vis d’un fournisseur, un facteur crucial à mesure que les modèles passent dans des environnements de production réels.

En fin de compte, les attentes changent. Avec environ 70 % des entreprises déjà à leur deuxième ou troisième déploiement de LLM, les acheteurs ne sont plus captivés par des démonstrations flashy. Leurs demandes se concentrent désormais sur la stabilité, le contrôle et une valeur commerciale claire. Menlo décrit cela comme un signe de « fatigue croissante » sur le marché, suggérant une transition vers une phase plus pratique où les décisions d’achat sont motivées par des besoins authentiques, et les fournisseurs adaptent leurs stratégies pour répondre à ces demandes évolutives.