Gouverner l'IA Multi-Agents : SAP & Agilent Partagent Leurs Retours
Le paysage de l’intelligence artificielle évolue rapidement, dépassant l’ère des assistants IA uniques pour embrasser des réseaux sophistiqués d’agents spécialisés. Ces systèmes multi-agents sont conçus pour collaborer, s’auto-critiquer et sélectionner intelligemment le modèle approprié pour chaque tâche, promettant un nouveau niveau de différenciation concurrentielle pour les entreprises. Cependant, cette avancée introduit des défis significatifs, notamment en ce qui concerne leur déploiement et leur gouvernance dans des environnements réels.
Une discussion récente a mis en lumière ces complexités, en réunissant les perspectives de leaders de l’industrie. Yaad Oren, directeur général de SAP Labs U.S. et responsable mondial de la recherche et de l’innovation chez SAP, a souligné l’engagement de l’entreprise à permettre à ses clients de faire évoluer leurs agents IA en toute sécurité. Il a noté qu’un certain degré d’autonomie est réalisable, mais que des points de contrôle robustes et une surveillance continue sont cruciaux pour l’amélioration, l’atténuation des vulnérabilités et la santé globale du système. Oren a reconnu que la technologie est encore naissante, décrivant les efforts actuels comme la “pointe de l’iceberg” pour assurer la scalabilité et la sécurité des agents.
Agilent, une entreprise de technologie de laboratoire analytique et clinique, intègre activement l’IA dans toutes ses opérations, selon Raj Jampa, son SVP et CIO. Bien que les premiers résultats soient prometteurs, l’entreprise est confrontée aux aspects pratiques de la mise à l’échelle et de la gestion des vulnérabilités. Jampa a décrit Agilent comme étant dans une “deuxième phase” d’adoption de l’IA, allant au-delà de l’exploration pour relever des défis tels que l’amélioration de la surveillance de l’IA et l’optimisation des coûts.
Au sein d’Agilent, l’IA est stratégiquement déployée sur trois piliers fondamentaux. Côté produit, l’accent est mis sur l’intégration de l’IA dans les instruments pour accélérer l’innovation. Pour les opérations en contact avec les clients, l’objectif est d’identifier les capacités d’IA qui apportent la valeur client maximale. En interne, l’IA est appliquée à l’efficacité opérationnelle, illustrée par le développement de réseaux auto-réparateurs. Jampa a souligné l’importance primordiale d’un cadre de gouvernance solide pour ces cas d’utilisation, un cadre qui établit des limites et des garde-fous basés sur des politiques pour équilibrer la conformité et la sécurité avec la flexibilité opérationnelle. Il a cité un incident récent où une mise à jour de configuration d’un agent a causé des problèmes immédiats en raison d’un contrôle de limite manquant, soulignant la nécessité d’un audit et d’une traçabilité robustes pour chaque entrée et sortie.
Pour les décisions complexes, en particulier celles impliquant le traitement du langage naturel ou des traductions à grande échelle, une couche humaine reste indispensable. Jampa a expliqué que pour de tels scénarios, l’agent IA est conçu pour signaler la nécessité d’une intervention et d’une approbation humaines avant de procéder. Le compromis inhérent entre la vitesse et la précision entre également en jeu dès le début du processus de décision, car les modèles complexes fonctionnant sous des exigences de faible latence peuvent rapidement faire grimper les coûts. Une couche de gouvernance devient donc vitale pour surveiller les performances des agents en termes de vitesse, de latence et de précision, aidant les organisations à affiner et à étendre leurs stratégies de IA.
L’intégration de ces nouveaux agents IA avec les solutions d’entreprise existantes présente un autre obstacle majeur. Alors que les systèmes sur site hérités peuvent se connecter via des API de données ou des architectures événementielles, l’approche optimale, selon Oren, est de faire d’abord passer toutes les solutions à un cadre cloud. SAP aide les entreprises à migrer leurs installations sur site vers le cloud, simplifiant les connexions et les cycles de livraison. Une fois dans une infrastructure cloud unifiée, la couche de données devient critique. Le Business Data Cloud de SAP, par exemple, sert de plateforme unifiée qui agrège et indexe sémantiquement les données provenant de sources SAP et non SAP, permettant aux agents de se connecter et de créer des processus métier de bout en bout.
Les déploiements d’IA d’entreprise réussis reposent sur trois éléments critiques : une couche de données propre et unifiée ; une couche d’orchestration robuste ; et un engagement inébranlable envers la confidentialité et la sécurité. Oren a souligné que l’orchestration des agents est à la fois une science et un art, cruciale pour prévenir les échecs et assurer un audit efficace. La sécurité et la confidentialité sont non négociables, surtout lorsque des essaims d’agents interagissent avec des bases de données sensibles et l’architecture d’entreprise. La gestion des identités et des autorisations devient primordiale, garantissant que seuls le personnel ou les agents autorisés peuvent accéder à des informations spécifiques, comme un membre de l’équipe RH consultant les données salariales.
En regardant vers l’avenir, Oren envisage un futur où les équipes d’entreprise humaines travailleront aux côtés des agents IA et des membres d’équipes robotiques. Dans ce paysage évolutif, la gestion des identités deviendra encore plus vitale. Il a conclu que, bien que les agents soient de plus en plus perçus comme des collègues numériques, ils exigent une surveillance et une gestion accrues. Cela inclut une intégration méticuleuse, une autorisation et une gestion continue du changement, traitant les agents comme des personnalités professionnelles qui nécessitent une maintenance et une amélioration continues, bien qu’avec une supervision plus rigoureuse que les employés humains.