Rubrik Agent Rewind: KI-Fehler rückgängig machen und Aktionen zurücksetzen
Der rasante Aufstieg der agentenbasierten KI verspricht, unzählige Workflows in allen Branchen zu revolutionieren und vielleicht sogar vollständig zu automatisieren. Doch diese transformative Technologie ist trotz ihrer rasanten Verbreitung noch in den Kinderschuhen. KI-Agenten sind anfällig für eine Reihe von Fehlern: Sie können Abkürzungen nehmen, bei mehrstufigen Aufgaben scheitern, desorientiert werden oder sogar versuchen, ihre Fehltritte zu verbergen. Um diese kritische Schwachstelle zu beheben, hat der Datenmanagement- und Sicherheitsanbieter Rubrik eine neue Lösung vorgestellt, die entwickelt wurde, um die Fehler der KI zu korrigieren.
Rubriks neues Agent Rewind Tool, das in seine Rubrik Security Cloud integriert ist, bietet Benutzern die beispiellose Möglichkeit, den genauen Moment zu identifizieren, in dem ein KI-Agent einen Fehler macht, und seine Aktionen anschließend auf einen vorher festgelegten Zeitpunkt zurückzusetzen. Diese innovative Funktion wird durch Technologie von Predibase angetrieben, einem Fine-Tuning-Unternehmen, das kürzlich von Rubrik übernommen wurde. Anneka Gupta, Chief Product Officer und Leiterin des KI-Bereichs bei Rubrik, betonte die Übersehen, die viele Organisationen bei Investitionen in KI machen: „Agentenbasierte KI führt das Konzept des ‚nicht-menschlichen Fehlers‘ ein und unterstreicht die Notwendigkeit für Organisationen, Lösungen zu implementieren, die potenziell schwerwiegende Fehler beheben können, die zu Geschäftsunterbrechungen führen können.“
Agent Rewind, das in den kommenden Monaten allgemein verfügbar sein wird, ist für eine breite Kompatibilität ausgelegt und lässt sich in verschiedene Plattformen, APIs und Agent Builder integrieren, darunter Salesforces Agentforce, Microsoft Copilot Studio und Amazon Bedrock Agents sowie benutzerdefinierte KI-Agenten. Die Plattform bietet das, was Rubrik als „kontextangereicherte Sichtbarkeit“ bezeichnet, indem sie das Verhalten eines Agenten, die Werkzeugnutzung und den Gesamteinfluss akribisch abbildet. Jede Aktion wird sorgfältig auf ihre Ursache zurückgeführt, sei es ein spezifischer Prompt, ein fehlerhafter Plan oder ein falscher Werkzeugaufruf. Diese Funktion lässt sich nahtlos mit der Rubrik Security Cloud kombinieren, um „zu sehen, was sich geändert hat“, einschließlich Änderungen an Dateien, Datenbanken, Konfigurationen oder Repositories, und gewährleistet so eine präzise Wiederherstellung im Falle eines Vorfalls.
Die Benutzeroberfläche von Agent Rewind verfügt über intuitive Dashboards und Agentenkarten, die es Benutzern ermöglichen, Agenten in ihren Umgebungen zu visualisieren, kategorisiert nach Risikostufen. Eine Unternehmensdemonstration zeigte ein interaktives Dashboard, das aktive Agenten auflistet, die mit dem höchsten Risiko, ihre hochwirksamen Aktionen und Rücksetzstatistiken hervorhebt. Ein Klick auf einen bestimmten Agenten offenbarte dessen autonome Aktionen, wie das Aktualisieren eines Feldtyps, das Löschen zahlreicher doppelter Tickets, das Ausführen eines „DROP TABLE“-Befehls auf einer Produktionsdatenbank oder das Löschen sensibler Finanz-Staging-Testdaten. Tiefergehend bietet das Dashboard eine Zusammenfassung und einen „Rücksetzplan“, der es Benutzern ermöglicht, die Wiederherstellung einzuleiten, indem sie einen optimalen Wiederherstellungspunkt für gelöschte Daten auswählen – entweder den letzten guten Schnappschuss oder einen früheren – und den Wiederherstellungsworkflow fortsetzen. Gupta betonte die Transparenz und Auditierbarkeit, die Agent Rewind mit sich bringt, indem es einen unveränderlichen Audit-Trail und Schnappschüsse erstellt, die sichere Rollbacks ermöglichen.
Branchenanalysten und Early Adopters feiern Agent Rewind als neuartiges und dringend benötigtes Tool. Chad Pallett, CISO bei BioIVT, beschrieb es als „die Antwort, auf die ich gewartet habe“ in einem Markt, der echte Beobachtbarkeit und Behebung fordert. Johnny Yu, Forschungsmanager bei IDC, bemerkte seine einzigartige Position: „Agent Rewind ist das erste Angebot eines Anbieters, das mir bekannt ist, das die Sichtbarkeit von KI-Agentenaktionen (über Predibase) eng mit der Möglichkeit verknüpft, diese Aktionen rückgängig zu machen (über Rubrik Security Cloud).“
Historisch gesehen war das Rückgängigmachen von Agentenfehlern aufgrund der autonomen und oft unvorhersehbaren Natur ihrer Aktionen eine Herausforderung. Im Gegensatz zu einem einfachen Chatbot, der lediglich Informationen abruft, kann ein KI-Agent Arbeit im Namen einer Einzelperson oder einer ganzen Organisation ausführen. Wenn ein solcher Agent einen Fehler macht, können die Folgen tiefgreifend sein, von technischen Fehlfunktionen und rechtlichen Haftungen bis hin zu katastrophalen Ereignissen wie dem Löschen ganzer Produktionsdatenbanken. Bisher verließen sich Unternehmen hauptsächlich auf die Aktivierung traditioneller Datenschutztools, was das Zurücksetzen auf einen früheren Zustand über einen Schnappschuss oder das Rekonstruieren von Daten aus Sicherungskopien beinhaltete. Während aktuelle Beobachtungstools zeigen können, was passiert ist, liefern sie oft keine Einblicke darüber, warum ein Fehler aufgetreten ist oder wie risikoreiche Aktionen präzise rückgängig gemacht werden können, was die Wiederherstellung erschwert und verzögert.
Yu von IDC wies darauf hin, dass das Problem durch die Jugend der Technologie und die schnelle Geschwindigkeit der Unternehmensadoption verschärft wird. Organisationen stehen oft unter dem Druck, KI-Agenten so schnell wie möglich in die Produktion zu integrieren, häufig ohne ausreichende Unterstützungssysteme oder „Sicherheitsnetze“. Dies spiegelt die frühen Tage des Cloud Computings und der Container wider, in denen viele Organisationen feststellten, dass sie neu migrierte Anwendungen innerhalb des ersten Jahres aufgrund unvorhergesehener Kosten, erhöhter Komplexität oder Inkompatibilität mit Datensicherheitstools zurückführten. Yu betonte die Bedeutung der proaktiven Einrichtung dieser Sicherheitsnetze, um Datenverlust, Überbelichtung oder Diebstahl durch böswillige Akteure zu verhindern.
Der Kernvorteil von Agent Rewind liegt in seiner Fähigkeit, KI-Agentenfehler präzise und skalierbar zu erfassen und zu beheben. Sein Nutzen ist direkt proportional zu den potenziellen Kosten der Fehler eines KI-Agenten. Während Organisationen, die sich noch in den Trainings- und Testphasen der KI befinden und agentenbasierte KI noch nicht in kritischen Produktionsumgebungen einsetzen, möglicherweise feststellen, dass ihre unmittelbaren Vorteile geringer sind, wird jedes Unternehmen, das KI bis zu dem Punkt integrieren möchte, an dem eine schlechte Entscheidung eines KI-Agenten das Geschäft erheblich beeinflussen könnte, Agent Rewind in Betracht ziehen wollen.