North de Cohere: Plataforma de Agentes IA que Asegura Datos Empresariales On-Premise
La promesa generalizada de las herramientas de agentes de IA, diseñadas para agilizar los flujos de trabajo diarios y aliviar las tareas monótonas, se ha encontrado con una significativa vacilación por parte de organizaciones que lidian con una preocupación crítica: la seguridad de los datos. Grandes empresas que salvaguardan valiosos secretos comerciales, compañías que operan en sectores altamente regulados y agencias gubernamentales han abordado la adopción de la IA con extrema cautela, temiendo que su información propietaria —o peor aún, los datos sensibles de sus clientes— puedan verse comprometidos o explotados inadvertidamente para entrenar modelos de IA fundacionales.
La empresa canadiense de IA Cohere aborda directamente estas ansiedades con su nueva plataforma de agentes de IA, North. La plataforma está diseñada para permitir el despliegue privado, asegurando que las empresas y los gobiernos puedan mantener sus datos y los de sus clientes de forma segura detrás de sus propios firewalls. Nick Frosst, cofundador y CEO de Cohere, enfatizó esto durante una demostración de North, afirmando: “Los LLMs son tan buenos como los datos a los que tienen acceso. Si queremos que los LLMs sean lo más útiles posible, deben acceder a esos datos útiles, y eso significa que deben ser desplegados en el entorno [del cliente].”
A diferencia de las soluciones que dependen únicamente de plataformas de nube empresarial públicas como Azure o AWS, Cohere afirma que North puede instalarse directamente en la infraestructura privada de una organización. Este enfoque significa que Cohere nunca accede ni interactúa con los datos de un cliente. North ofrece opciones de despliegue versátiles, capaz de ejecutarse en la infraestructura on-premise de una organización, diversas configuraciones de nube híbrida, nubes privadas virtuales (VPC), o incluso entornos air-gapped altamente seguros. Frosst destacó los requisitos mínimos de hardware de North, señalando su capacidad para funcionar eficazmente con tan solo dos GPUs, añadiendo con humor: “Podemos desplegarlo literalmente en una GPU en un armario que puedan tener en algún lugar.”
Más allá de su despliegue flexible, North integra robustos protocolos de seguridad. Estos incluyen control de acceso granular, que permite una gestión precisa de quién puede acceder a qué datos; políticas de autonomía de agentes, que dictan cómo operan los agentes de IA; pruebas de “red-teaming” continuas, un método proactivo de prueba de seguridad; y evaluaciones de seguridad de terceros. La plataforma también cumple con los principales estándares internacionales como GDPR, SOC-2 e ISO 27001, consolidando aún más su compromiso con la integridad y privacidad de los datos.
Cohere, que ha recaudado con éxito 970 millones de dólares y recientemente alcanzó una valoración de 5.500 millones de dólares, ya ha pilotado North con varios clientes destacados, incluyendo RBC, Dell, LG, Ensemble Health Partners y Palantir. Estas adopciones tempranas subrayan la aplicabilidad práctica de la plataforma en diversos entornos empresariales.
En su núcleo, North ofrece funcionalidades clave de agentes de IA, como capacidades sofisticadas de chat y búsqueda. Estas características permiten a los usuarios gestionar eficientemente consultas de soporte al cliente, resumir con precisión transcripciones de reuniones, generar textos de marketing y acceder sin problemas a información tanto de recursos internos de la empresa como de la web en general. Una característica crucial de transparencia es la inclusión de citas y cadenas de “razonamiento” de North para todas las respuestas, lo que permite a los empleados auditar y verificar la salida de la IA. Las funciones de chat y búsqueda están impulsadas por la suite tecnológica existente de Cohere, incluyendo Command, su familia de modelos de IA generativos, y Compass, su tecnología de búsqueda multimodal. Específicamente, North utiliza una variante del modelo Command optimizada para el razonamiento empresarial complejo.
La plataforma se extiende más allá de las simples interacciones de preguntas y respuestas, aventurándose en la ejecución activa de trabajos. North facilita la creación significativa de activos, capaz de generar tablas, documentos, presentaciones y realizar investigaciones de mercado exhaustivas. Esta capacidad mejorada fue reforzada por la adquisición de Ottogrid por parte de Cohere en mayo, una plataforma con sede en Vancouver especializada en la automatización de investigaciones de mercado de alto nivel para empresas. Además, North está diseñado para una integración perfecta con una amplia gama de herramientas de trabajo existentes, incluyendo aplicaciones populares como Gmail, Slack, Salesforce, Outlook y Linear. También puede conectarse con servidores de Protocolo de Contexto de Modelo (MCP), lo que permite el acceso a aplicaciones específicas de la industria o internas. Frosst vislumbra una progresión natural para los usuarios: “A medida que se gana confianza al chatear con el modelo, hay una transición suave que ocurre entre usarlo como una mejora y usarlo como una automatización.” Esta visión destaca el potencial de North para evolucionar de una herramienta de apoyo a una fuerza verdaderamente transformadora para las operaciones empresariales.