Cohere North: KI-Agentenplattform sichert Unternehmensdaten On-Premise

Techcrunch

Das weitreichende Versprechen von KI-Agenten-Tools, die darauf ausgelegt sind, tägliche Arbeitsabläufe zu rationalisieren und mühsame Aufgaben zu erleichtern, stößt bei Organisationen, die mit einem kritischen Problem ringen, auf erhebliche Zurückhaltung: Datensicherheit. Große Unternehmen, die wertvolle Geschäftsgeheimnisse schützen, in stark regulierten Sektoren tätige Unternehmen und Regierungsbehörden haben die Einführung von KI mit äußerster Vorsicht angegangen, aus Furcht, dass ihre proprietären Informationen – oder schlimmer noch, die sensiblen Daten ihrer Kunden – unbeabsichtigt kompromittiert oder zur Schulung grundlegender KI-Modelle missbraucht werden könnten.

Das kanadische KI-Unternehmen Cohere begegnet diesen Ängsten direkt mit seiner neuen KI-Agenten-Plattform North. Die Plattform ist für die private Bereitstellung konzipiert, um sicherzustellen, dass Unternehmen und Regierungen ihre Daten und die ihrer Kunden sicher hinter ihren eigenen Firewalls halten können. Nick Frosst, Mitbegründer und CEO von Cohere, betonte dies während einer Demonstration von North: „LLMs sind nur so gut wie die Daten, auf die sie Zugriff haben. Wenn wir LLMs so nützlich wie möglich machen wollen, müssen sie auf diese nützlichen Daten zugreifen können, und das bedeutet, dass sie in der Umgebung [des Kunden] bereitgestellt werden müssen.“

Im Gegensatz zu Lösungen, die ausschließlich auf öffentliche Unternehmens-Cloud-Plattformen wie Azure oder AWS angewiesen sind, behauptet Cohere, dass North direkt in die private Infrastruktur einer Organisation installiert werden kann. Dieser Ansatz bedeutet, dass Cohere selbst niemals auf Kundendaten zugreift oder mit ihnen interagiert. North bietet vielseitige Bereitstellungsoptionen, die auf der On-Premise-Infrastruktur einer Organisation, verschiedenen Hybrid-Cloud-Setups, virtuellen privaten Clouds (VPCs) oder sogar hochsicheren Air-Gapped-Umgebungen ausgeführt werden können. Frosst hob die minimalen Hardwareanforderungen von North hervor und bemerkte, dass es effektiv mit nur zwei GPUs funktionieren kann, und fügte humorvoll hinzu: „Wir können es buchstäblich auf einer GPU in einem Schrank bereitstellen, den sie vielleicht irgendwo haben.“

Über die flexible Bereitstellung hinaus integriert North robuste Sicherheitsprotokolle. Dazu gehören eine granulare Zugriffssteuerung, die eine präzise Verwaltung des Zugriffs auf Daten ermöglicht; Richtlinien für die Agentenautonomie, die vorschreiben, wie KI-Agenten arbeiten; kontinuierliches Red-Teaming, eine proaktive Sicherheitsprüfungsmethode; und Sicherheitsbewertungen durch Dritte. Die Plattform rühmt sich auch der Einhaltung wichtiger internationaler Standards wie GDPR, SOC-2 und ISO 27001, was ihr Engagement für Datenintegrität und Datenschutz weiter festigt.

Cohere, das erfolgreich 970 Millionen US-Dollar gesammelt und kürzlich eine Bewertung von 5,5 Milliarden US-Dollar erreicht hat, hat North bereits mit mehreren prominenten Kunden pilotiert, darunter RBC, Dell, LG, Ensemble Health Partners und Palantir. Diese frühen Adoptionen unterstreichen die praktische Anwendbarkeit der Plattform in verschiedenen Unternehmensumgebungen.

Im Kern bietet North wichtige KI-Agenten-Funktionalitäten wie hochentwickelte Chat- und Suchfunktionen. Diese Funktionen ermöglichen es Benutzern, Kundenanfragen effizient zu verwalten, Besprechungsprotokolle genau zusammenzufassen, Marketingtexte zu generieren und nahtlos auf Informationen sowohl aus internen Unternehmensressourcen als auch aus dem gesamten Web zuzugreifen. Ein entscheidendes Transparenzmerkmal ist die Aufnahme von Zitaten und „Begründungsketten“ für alle Antworten in North, die es Mitarbeitern ermöglichen, die KI-Ausgabe zu überprüfen und zu verifizieren. Die Chat- und Suchfunktionen werden von Cohere’s bestehender Technologiesuite angetrieben, einschließlich Command, seiner Familie generativer KI-Modelle, und Compass, seiner multimodalen Suchtechnologie. Insbesondere nutzt North eine Variante des Command-Modells, die für komplexe Unternehmenslogik optimiert ist.

Die Plattform geht über einfache Frage-Antwort-Interaktionen hinaus und wagt sich an die aktive Arbeitsausführung. North erleichtert die Erstellung signifikanter Assets, ist in der Lage, Tabellen, Dokumente, Diashows zu generieren und umfassende Marktforschung durchzuführen. Diese verbesserte Fähigkeit wurde durch Cohere’s Übernahme von Ottogrid im Mai gestärkt, einer in Vancouver ansässigen Plattform, die sich auf die Automatisierung hochrangiger Marktforschung für Unternehmen spezialisiert hat. Darüber hinaus ist North für die nahtlose Integration mit einer Vielzahl bestehender Arbeitsplatztools konzipiert, einschließlich beliebter Anwendungen wie Gmail, Slack, Salesforce, Outlook und Linear. Es kann auch mit Model Context Protocol (MCP)-Servern verbunden werden, was den Zugriff auf branchenspezifische oder interne Anwendungen ermöglicht. Frosst sieht eine natürliche Entwicklung für Benutzer: „Wenn Sie Vertrauen durch das Chatten mit dem Modell aufbauen, gibt es einen reibungslosen Übergang von der Nutzung als Ergänzung zur Nutzung als Automatisierung.“ Diese Vision unterstreicht das Potenzial von North, sich von einem unterstützenden Tool zu einer wirklich transformativen Kraft für Unternehmensabläufe zu entwickeln.