Rubrik presenta el 'botón de deshacer' para errores de agentes de IA
La creciente adopción de agentes de IA, aunque promete una eficiencia transformadora, introduce una nueva frontera de riesgo operativo. Estos asistentes digitales autónomos, con capacidad para ejecutar tareas en diversas aplicaciones y datos, están demostrando ser susceptibles a errores que pueden ir desde pequeños fallos técnicos hasta la eliminación catastrófica de datos y una interrupción significativa del negocio. Un estudio reciente de la Universidad Carnegie Mellon subrayó estas vulnerabilidades, revelando que los agentes de IA con frecuencia se desorientan, eligen atajos incorrectos y tienen dificultades con tareas de varios pasos, socavando su eficacia y fiabilidad generales.
Para abordar este desafío crítico, Rubrik ha presentado Agent Rewind, una solución de software diseñada para proporcionar a las empresas una red de seguridad esencial: un “botón de deshacer” para los errores de los agentes de IA. Anunciado el 12 de agosto, Agent Rewind integra la infraestructura de IA Predibase, que Rubrik adquirió en junio, con las sólidas capacidades de recuperación de datos de la empresa. Esta fusión tiene como objetivo infundir confianza en las organizaciones que adoptan la IA agéntica al ofrecer un proceso claro y auditable para rastrear, monitorear y revertir de forma segura las acciones no deseadas realizadas por los agentes de IA.
Agent Rewind hace que las acciones de IA sean fundamentalmente visibles, auditables y reversibles, creando una pista de auditoría inmutable y instantáneas seguras que facilitan las reversiones seguras. Esta capacidad es crucial dados los incidentes pasados en los que los errores de los agentes de IA han provocado graves consecuencias, incluida la eliminación involuntaria de bases de datos de producción enteras o la creación de complejos problemas legales.
La solución ofrece varias funcionalidades clave para lograr este nivel de control. La principal es su visibilidad enriquecida con contexto, que saca a la luz meticulosamente el comportamiento, el uso de herramientas y el impacto de un agente. Esta característica contextualiza cada acción, mapeándola a su causa raíz, desde las indicaciones iniciales y los planes subsiguientes hasta las herramientas específicas empleadas. Tal conocimiento granular permite una recuperación precisa cuando ocurre un error, permitiendo a los administradores identificar el punto exacto de la falla.
Complementando esta visibilidad está la capacidad de reversión segura de Agent Rewind. Aprovechando el poder de Rubrik Security Cloud, el sistema puede revertir los cambios realizados en archivos, bases de datos, configuraciones o repositorios completos, restaurándolos efectivamente a un estado anterior al error. Esto asegura que incluso las modificaciones o eliminaciones significativas se puedan deshacer sin un tiempo de inactividad prolongado o pérdida de datos.
Además, Rubrik ha diseñado Agent Rewind para una amplia compatibilidad, asegurando que pueda integrarse sin problemas con una amplia gama de plataformas, API y constructores de agentes populares. Esto incluye soluciones destacadas como Agentforce, Microsoft Copilot Studio y Amazon Bedrock Agents. Fundamentalmente, la compañía afirma que Agent Rewind también será compatible con cualquier agente de IA personalizado desarrollado por las empresas, ofreciendo protección universal en diversas implementaciones de IA.
Al proporcionar este marco integral para rastrear, auditar y revertir las acciones de los agentes de IA, Rubrik tiene como objetivo capacitar a las empresas para aprovechar el potencial transformador de la IA autónoma sin sucumbir a sus riesgos inherentes. La compañía ha abierto una lista de espera para el acceso anticipado a Agent Rewind, lo que indica su inminente disponibilidad para ayudar a las organizaciones a navegar con confianza en el panorama cambiante de las operaciones impulsadas por la IA.