Gobernanza de IA Multiagente: SAP y Agilent Comparten Lecciones de Despliegue
El panorama de la inteligencia artificial está evolucionando rápidamente, yendo más allá de la era de los asistentes de IA individuales para abrazar sofisticadas redes de agentes especializados. Estos sistemas multiagente están diseñados para colaborar, autoevaluarse y seleccionar inteligentemente el modelo apropiado para cada tarea, prometiendo un nuevo nivel de diferenciación competitiva para las empresas. Sin embargo, este avance introduce desafíos significativos, particularmente en lo que respecta a su despliegue y gobernanza en entornos del mundo real.
Una discusión reciente destacó estas complejidades, reuniendo las perspectivas de líderes de la industria. Yaad Oren, director general de SAP Labs U.S. y jefe global de investigación e innovación en SAP, enfatizó el compromiso de la compañía para permitir a los clientes escalar sus agentes de IA de forma segura. Señaló que, si bien se puede lograr un cierto grado de autonomía, los puntos de control robustos y el monitoreo continuo son cruciales para la mejora, la mitigación de vulnerabilidades y la salud general del sistema. Oren reconoció que la tecnología aún es incipiente, describiendo los esfuerzos actuales como solo la “punta del iceberg” para garantizar la escalabilidad y seguridad de los agentes.
Agilent, una firma de tecnología de laboratorio analítico y clínico, está integrando activamente la IA en todas sus operaciones, según Raj Jampa, su vicepresidente senior y CIO. Si bien los resultados iniciales son prometedores, la compañía está lidiando con las complejidades prácticas de la escalabilidad y la gestión de vulnerabilidades. Jampa describió a Agilent como en una “segunda etapa” de adopción de IA, avanzando más allá de la exploración para abordar desafíos como la mejora del monitoreo de IA y la optimización de costos.
Dentro de Agilent, la IA se despliega estratégicamente en tres pilares fundamentales. En el lado del producto, el enfoque está en integrar la IA en los instrumentos para acelerar la innovación. Para las operaciones de cara al cliente, el objetivo es identificar capacidades de IA que ofrezcan el máximo valor al cliente. Internamente, la IA se aplica a la eficiencia operativa, ejemplificado por el desarrollo de redes de autorreparación. Jampa enfatizó la importancia primordial de un marco de gobernanza sólido para estos casos de uso, uno que establezca límites y salvaguardias basados en políticas para equilibrar el cumplimiento y la seguridad con la flexibilidad operativa. Citó un incidente reciente donde una actualización de configuración de un agente causó problemas inmediatos debido a una verificación de límites faltante, lo que subraya la necesidad de una auditoría y trazabilidad robustas para cada entrada y salida.
Para decisiones complejas, particularmente aquellas que involucran procesamiento de lenguaje natural o traducciones a gran escala, una capa humana sigue siendo indispensable. Jampa explicó que, para tales escenarios, el agente de IA está diseñado para señalar la necesidad de intervención y aprobación humana antes de proceder. La compensación inherente entre velocidad y precisión también entra en juego al principio del proceso de toma de decisiones, ya que los modelos complejos que operan bajo requisitos de baja latencia pueden aumentar rápidamente los costos. Una capa de gobernanza, por lo tanto, se vuelve vital para monitorear el rendimiento de los agentes en cuanto a velocidad, latencia y precisión, ayudando a las organizaciones a refinar y expandir sus estrategias de IA.
La integración de estos nuevos agentes de IA con las soluciones empresariales existentes presenta otro obstáculo importante. Si bien los sistemas locales heredados pueden conectarse a través de API de datos o arquitecturas impulsadas por eventos, el enfoque óptimo, según Oren, es la transición de todas las soluciones a un marco de nube primero. SAP ayuda a las empresas a migrar sus instalaciones locales a la nube, simplificando las conexiones y los ciclos de entrega. Una vez dentro de una infraestructura de nube unificada, la capa de datos se vuelve crítica. La Business Data Cloud de SAP, por ejemplo, sirve como una plataforma unificada que agrega e indexa semánticamente datos de fuentes SAP y no SAP, permitiendo a los agentes conectarse y crear procesos de negocio de extremo a extremo.
Los despliegues exitosos de IA empresarial dependen de tres elementos críticos: una capa de datos limpia y unificada; una capa de orquestación robusta; y un compromiso inquebrantable con la privacidad y la seguridad. Oren destacó que la orquestación de agentes es tanto una ciencia como un arte, crucial para prevenir fallas y garantizar una auditoría efectiva. La seguridad y la privacidad no son negociables, especialmente cuando enjambres de agentes interactúan con bases de datos sensibles y la arquitectura empresarial. La gestión de identidad y autorización se vuelve primordial, asegurando que solo el personal o los agentes autorizados puedan acceder a información específica, como un miembro del equipo de RRHH viendo datos salariales.
Mirando hacia el futuro, Oren vislumbra un futuro donde los equipos empresariales humanos trabajen junto a agentes de IA y miembros de equipos robóticos. En este panorama en evolución, la gestión de identidad será aún más vital. Concluyó que, si bien los agentes son cada vez más percibidos como colegas digitales, exigen una mayor supervisión y gestión. Esto incluye una incorporación meticulosa, autorización y gestión de cambios continua, tratando a los agentes como personalidades profesionales que requieren mantenimiento y mejora continuos, aunque con una supervisión más rigurosa que los empleados humanos.