Menlo: LLM-Markt wandelt sich zu vertikalen Apps, Stabilität & Ergebnissen

Die rasante Akzeptanz großer Sprachmodelle (LLMs) in Unternehmen setzt ihren steilen Aufstieg fort, wobei einige Sektoren Nutzungssteigerungen von fast 150 % im Jahresvergleich melden. Doch dieser Wachstumspfad wird von einer signifikanten Abkühlung der Infrastrukturinvestitionen begleitet, die einst den Boom befeuerten, wobei neues Kapital, das in diesen Bereich fließt, nun um mehr als die Hälfte gegenüber dem Vorjahr gesunken ist. Dieser dynamische Wandel markiert einen entscheidenden Moment in der generativen KI (GenAI)-Landschaft, wie im Mid-Year LLM Market Update 2025 von Menlo Ventures detailliert beschrieben. Der Bericht bietet eine fundierte Perspektive auf die Reifung der Branche und illustriert eine klare Abkehr von breiten, allgemeingültigen Modellen und frühen Agentenexperimenten hin zu fokussierteren Anwendungen, spezialisierten Workflows und einem stärkeren Fokus auf die Lieferung greifbarer Geschäftsergebnisse.

Ein zentrales Thema, das von Menlo Ventures, einer auf KI, Infrastruktur und Unternehmenssoftware spezialisierten Risikokapitalgesellschaft, hervorgehoben wird, ist die drastische Reduzierung der Infrastrukturinvestitionen. Im Laufe des Jahres 2024 zogen Plattformen für Modelltraining, Orchestrierungstools und Vektordatenbanken erhebliche Finanzmittel an. Bis Mitte 2025 ist das Transaktionsvolumen in diesen Kategorien jedoch um über 50 % eingebrochen. Dieser Rückgang wird größtenteils den schnellen Fortschritten bei Open-Source-Modellen wie Mixtral, Claude und LLaMA 3 zugeschrieben, die es Unternehmen erheblich einfacher und kostengünstiger gemacht haben, auf bestehenden Systemen aufzubauen, anstatt eigene von Grund auf neu zu entwickeln. Gleichzeitig haben sich die Ausgaben für Modell-APIs — Anwendungsprogrammierschnittstellen, die es Entwicklern ermöglichen, vortrainierte Modelle in ihre Anwendungen zu integrieren — im letzten Jahr fast vervierfacht, was den Bedarf von Unternehmen, eigene Basismodelle zu entwickeln oder zu betreiben, weiter verringert. Folglich schwindet der Wettbewerbsvorteil, den Infrastrukturanbieter einst besaßen, wobei die bloße Fähigkeit, ein Modell zu bedienen oder feinabzustimmen, nicht mehr ausreicht, um sich am Markt zu differenzieren.

Stattdessen konzentriert sich der Wert zunehmend auf Unternehmen, die sich nahtlos in bestehende Workflows integrieren, proprietäre Daten nutzen oder sich auf die Lösung von Problemen in bestimmten Domänen spezialisieren. Menlos Analyse legt nahe, dass die erfolgreichsten Akteure nicht versuchen, den gesamten Technologie-Stack neu aufzubauen. Vielmehr nutzen sie strategisch die besten verfügbaren Tools und konzentrieren ihre Bemühungen auf die Anwendungsebene, wo Benutzer den direkten Einfluss erleben. Dies signalisiert, wie der Bericht erklärt, einen fundamentalen Wandel von „horizontalen Plattformen zu vertikalen Stacks“. Die vielversprechendsten Startups sind diejenigen, die „Probleme für einen spezifischen Benutzer in einer spezifischen Domäne lösen“, indem sie „domänenspezifische Benutzererfahrung, Workflows, Daten und Integrationen“ bündeln. Diese spezialisierten Akteure erzielen eine schnellere Traktion, zeigen eine stärkere Produkt-Markt-Passung und effizientere Go-to-Market-Strategien, insbesondere in Kombination mit Techniken wie der Retrieval-Augmented Generation (RAG), die Modellantworten mit externen Daten verbessert. In dieser sich entwickelnden Landschaft erweisen sich Startups, die Vertriebskanäle kontrollieren oder einzigartige Datensätze besitzen, als weitaus widerstandsfähiger als diejenigen, die primär reine Infrastruktur aufbauen.

Die Reifung zeigt sich auch in der Agentenentwicklung, die deutlich fokussierter und praktischer wird. Nach einer anfänglichen Phase der Aufregung um allgemeine Agenten, die oft breite, aber unzuverlässige Fähigkeiten versprachen, tendiert der Markt nun zu Tools, die für wiederholbare Aufgaben konzipiert sind. Praktische Anwendungen umfassen Dokumentenzusammenfassungen, Lead-Generierung und die Extraktion strukturierter Daten. Diese erneute Betonung der Zuverlässigkeit verändert, wie KI-Startups von Investoren bewertet werden, die nun die Kerngeschäftsgrundlagen wie Geschwindigkeit der Wertlieferung, Gewinnmargen und Kundenbindung genau prüfen. Als Reaktion darauf verfeinern viele Startups ihre Angebote, bündeln Dienstleistungen oder vereinfachen ihre Vertriebsansätze.

Gleichzeitig treten etabliertere Softwareunternehmen aktiv in den GenAI-Bereich ein und integrieren LLM-Funktionen direkt in Produkte, die ihre bestehenden Kunden bereits nutzen. Dies verschafft ihnen einen erheblichen Vorteil, da sie auf bereits bestehende Nutzerbasen, etabliertes Vertrauen und eine breite Marktreichweite zurückgreifen können, die neuere KI-Startups noch aufbauen müssen. Menlo erwartet, dass dieser Trend zu einer verstärkten Marktkonsolidierung und einer Reduzierung der Anzahl von Unternehmen führen wird, die versuchen, den gesamten KI-Stack zu besitzen. Auch Unternehmenskäufer reifen in ihrer GenAI-Adoption, wobei viele nun in ihren zweiten oder dritten Bereitstellungszyklen sind. Ihre Prioritäten haben sich von experimentellen Lösungen zu solchen verlagert, die sicher, stabil und verwaltbar sind. Dennoch gewinnen bestimmte Bereiche an Dynamik, darunter Agenten-Beobachtbarkeit, Compliance-orientierte Systeme, automatisierte RAG-Pipelines und synthetische Datenplattformen, die Menlo als wichtige Treiber für die nächste Welle von Unternehmens-GenAI identifiziert.

Dieser Wandel in den Käuferprioritäten beeinflusst auch die LLM-Auswahl. Während OpenAI die am weitesten verbreitete API bleibt, ist ihr Marktanteil in den letzten zwei Jahren von 80 % auf 59 % gesunken. Claude und Mistral gewinnen stetig an Boden, insbesondere in Sektoren, die Kosteneffizienz oder regulatorische Compliance priorisieren. Darüber hinaus wird die LLM-Nutzung zunehmend diversifiziert, wobei viele Teams Multimodell-Strategien verfolgen und Anbieter je nach Preis, Leistung und Aufgabenstellung mischen und anpassen. Allein Claude verzeichnete innerhalb eines Jahres einen Anstieg seiner Unternehmensnutzung von lediglich 3 % auf 16 %. Es besteht auch ein wachsendes Interesse an Open-Source-Modellen, deren schnelle Verbesserungen Unternehmen größere Flexibilität bieten und die Herstellerbindung reduzieren, ein entscheidender Faktor, wenn Modelle in reale Produktionsumgebungen überführt werden.

Letztendlich ändern sich die Erwartungen. Da etwa 70 % der Unternehmen bereits ihren zweiten oder dritten LLM-Rollout durchgeführt haben, sind Käufer nicht mehr von auffälligen Demonstrationen gefesselt. Ihre Anforderungen konzentrieren sich nun auf Stabilität, Kontrolle und klaren Geschäftswert. Menlo beschreibt dies als Zeichen „wachsender Ermüdung“ auf dem Markt, was auf einen Übergang in eine praktischere Phase hindeutet, in der Kaufentscheidungen von echten Bedürfnissen bestimmt werden und Anbieter ihre Strategien an diese sich entwickelnden Anforderungen anpassen.