Anthropic übernimmt Humanloop-Team für sichere KI-Tools im Unternehmen

In einem strategischen Schritt zur Stärkung seiner Fähigkeiten im Bereich der Unternehmens-Künstlichen Intelligenz und zur Bekräftigung seines Engagements für KI-Sicherheit hat Anthropic die Übernahme der Mitbegründer und eines Großteils des Teams von Humanloop bekannt gegeben, einem Londoner Startup, das für seine Plattform für KI-Prompt-Management, Modellevaluierung und Beobachtbarkeit bekannt ist. Durch diese „Acqui-Hire“ werden die Humanloop-Mitbegründer Raza Habib, Peter Hayes und Jordan Burgess zusammen mit etwa einem Dutzend Ingenieuren und Forschern in den Schoß von Anthropic aufgenommen, was eine verstärkte Fokussierung auf robuste KI-Lösungen für Unternehmen signalisiert.

Humanloop wurde 2020 als Ausgründung des University College London gegründet und von prominenten Risikokapitalfirmen wie Y Combinator und Index Ventures unterstützt. Das Unternehmen hat sich eine Nische geschaffen, indem es eine Plattform entwickelte, die die Entwicklung und Optimierung von Anwendungen großer Sprachmodelle (LLM) rationalisierte. Ihre Angebote umfassten einen kollaborativen Playground, ein ausgeklügeltes Prompt-Management, Bereitstellungskontrollen sowie eine umfassende Evaluierungs- und Überwachungssuite, die für den Unternehmenseinsatz konzipiert wurde. Insbesondere die „Human-in-the-Loop“-Fähigkeiten (HITL) von Humanloop erleichterten die Integration menschlichen Feedbacks zur Verfeinerung von Modellvorhersagen, wodurch die Genauigkeit verbessert und Verzerrungen im Laufe der Zeit gemindert wurden. Das Team brachte auch wertvolle Erfahrungen aus der Zusammenarbeit mit großen Unternehmenskunden wie Duolingo und Gusto mit. Laut einer Erklärung von Humanloop war es von Anfang an ihre Mission, die sichere und schnelle Einführung von KI zu ermöglichen, und sie gehörten zu den ersten, die Industriestandards für die Verwaltung und Evaluierung von KI mitgestalteten. Obwohl sich die Akquisition auf Talente konzentriert und nicht das geistige Eigentum oder die Vermögenswerte von Humanloop umfasst, hatte das Startup seine Kunden im Juli 2025 über die bevorstehende Abschaltung seiner Plattform aufgrund des Akquisitionsprozesses informiert.

Für Anthropic, ein Unternehmen, das auf einer „Safety-First“-Philosophie aufbaut und für sein Constitutional AI-Framework bekannt ist – das ethische Richtlinien direkt in seine Modelle einbettet –, ist diese Talentzufuhr ein entscheidender Schritt in seiner aggressiven Expansion in den Unternehmens- und Regierungssektor. Die Expertise von Humanloop in Evaluierung, Überwachung und Compliance unterstützt direkt das Ziel von Anthropic, die Sicherheit und Steuerbarkeit seiner KI-Systeme, einschließlich seiner Flaggschiff-Claude-Modelle, zu verbessern. Anthropic hat sich aktiv als führendes Unternehmen im Bereich Unternehmens-KI positioniert, indem es kürzlich Kontextfenster in seinen Modellen erweitert und einen hochkarätigen Deal abgeschlossen hat, um seine KI-Dienste für 1 US-Dollar pro Agentur der US-Regierung anzubieten. Das Unternehmen betont, dass sein Produkt „Claude for Work“ die Datensicherheit priorisiert und seine Modelle nicht mit Kundendaten trainiert. Darüber hinaus hat Anthropic in proaktive Sicherheitsmaßnahmen investiert, einen „Schild“ zur Filterung bösartiger Eingaben und Ausgaben entwickelt und einen „Long-Term Benefit Trust“ mit Experten eingerichtet, um seine KI-Entwicklung im Einklang mit nationalen Sicherheitsbelangen zu steuern.

Diese Akquisition unterstreicht einen breiteren Branchentrend, bei dem der Wettbewerbsvorteil in der KI zunehmend nicht nur in der reinen Modellleistung liegt, sondern in den robusten Tools und der Infrastruktur, die ihre sichere, zuverlässige und konforme Bereitstellung im großen Maßstab gewährleisten. Da sich die KI-Einführung in allen Branchen, insbesondere in Technologie und Finanzen, beschleunigt, ist die Nachfrage nach ausgeklügelten KI-Governance-, Sicherheits- und Compliance-Lösungen von größter Bedeutung. Humanloops Kompetenz bei der Rationalisierung von Prompt-Management, Modellevaluierung und Echtzeit-Monitoring passt perfekt zum wachsenden Bedarf an automatisierten, effizienten und auditierbaren KI-Compliance-Prozessen. Durch die Integration des erfahrenen Humanloop-Teams stärkt Anthropic nicht nur sein unmittelbares Unternehmensangebot, sondern positioniert sich auch strategisch, um die globale KI-Sicherheitsbewegung anzuführen, und intensiviert seine Rivalität mit anderen wichtigen Akteuren wie OpenAI und Google DeepMind im aufkeimenden KI-Talentkrieg.