IA en Cybersécurité : 30 M$ – Révolution ou Catastrophe ?

Prophet Security a récemment annoncé avoir obtenu 30 millions de dollars de financement pour développer et déployer des « défenseurs IA autonomes », une technologie conçue pour enquêter sur les menaces de sécurité avec une rapidité sans précédent. Ce développement a déclenché un débat important au sein de l’industrie de la cybersécurité, alors que les organisations aux prises avec un volume accablant d’alertes évaluent le potentiel de l’IA face aux avertissements d’experts concernant ses risques inhérents.

L’ampleur du défi actuel de la cybersécurité est frappante. Les équipes de sécurité seraient inondées d’une moyenne de 4 484 alertes par jour, avec un nombre stupéfiant de 67 % souvent non traitées en raison de la surcharge des analystes. Cela se produit alors que les dommages causés par la cybercriminalité devraient atteindre 23 000 milliards de dollars d’ici 2027, aggravé par une pénurie mondiale de près de quatre millions de professionnels de la cybersécurité. La solution proposée par Prophet Security est un système d’IA capable d’enquêter sur les alertes en moins de trois minutes, beaucoup plus rapidement que la ligne de base typique de 30 minutes signalée par de nombreuses équipes humaines.

L’innovation de Prophet Security, surnommée l’« Analyste SOC IA Agentique », représente une forme avancée d’intelligence artificielle qui va au-delà de la simple automatisation. Contrairement aux outils de sécurité conventionnels qui nécessitent des commandes humaines, ce système trie, enquête et répond de manière autonome aux alertes de sécurité dans des environnements informatiques entiers sans intervention humaine directe. La société affirme que son système a déjà mené plus d’un million d’enquêtes autonomes pour ses clients, ce qui a permis des temps de réponse dix fois plus rapides et une réduction de 96 % des faux positifs. Cela est particulièrement impactant pour les centres d’opérations de sécurité (SOC) où les faux positifs peuvent représenter jusqu’à 99 % des alertes.

Prophet Security n’est pas seule dans la poursuite de la cybersécurité axée sur l’IA. Les prévisions de cybersécurité de Deloitte pour 2025 anticipent que 40 % des grandes entreprises mettront en œuvre des systèmes d’IA autonomes dans leurs opérations de sécurité d’ici cette année. De même, Gartner prédit que les systèmes multi-agents seront utilisés dans 70 % des applications d’IA d’ici 2028.

Malgré ces avancées prometteuses, les principaux experts en cybersécurité expriment de sérieuses réserves quant à la poussée rapide vers des systèmes de sécurité entièrement autonomes. Gartner, par exemple, a averti que les SOC complètement autonomes sont non seulement irréalistes, mais aussi potentiellement catastrophiques. Une préoccupation majeure est le risque que les entreprises réduisent la surveillance humaine précisément lorsque les systèmes d’IA sont les plus susceptibles d’être attaqués. Les projections suggèrent que d’ici 2030, 75 % des équipes SOC pourraient perdre leurs capacités d’analyse fondamentales en raison d’une dépendance excessive à l’automatisation. De plus, d’ici 2027, 30 % des dirigeants de SOC devraient faire face à des défis importants lors de l’intégration de l’IA en production, et d’ici 2028, un tiers des postes SOC seniors pourraient rester vacants si les organisations ne priorisent pas le perfectionnement de leurs équipes humaines.

Une vulnérabilité critique des systèmes d’IA est leur susceptibilité à la manipulation par les adversaires. Des recherches du National Institute of Standards and Technology (NIST) confirment que les systèmes d’IA peuvent être intentionnellement confondus ou « empoisonnés » par les attaquants, sans qu’aucune « défense infaillible » ne soit actuellement disponible. La professeure Alina Oprea de l’Université Northeastern a averti que « la plupart de ces attaques sont assez faciles à monter et nécessitent une connaissance minimale du système d’IA ». Cela soulève la perspective alarmante que l’IA, conçue pour la protection, soit transformée en une arme contre ses utilisateurs prévus.

L’industrie de la cybersécurité se trouve à un carrefour critique, où les décisions concernant l’intégration de l’IA pourraient façonner profondément son avenir. Alors que le financement substantiel de Prophet Security reflète la confiance des investisseurs dans la défense alimentée par l’IA, les limites inhérentes à la technologie deviennent de plus en plus apparentes. Les systèmes « autonomes » actuels fonctionnent généralement à un niveau d’autonomie 3-4, ce qui signifie qu’ils peuvent exécuter des tâches complexes mais nécessitent toujours un examen humain pour les cas extrêmes et les décisions stratégiques. La véritable autonomie non assistée reste une aspiration, pas une réalité.

Le consensus parmi de nombreux experts est que la voie la plus efficace consiste en un partenariat stratégique entre les humains et l’IA, plutôt qu’un remplacement pur et simple. Des initiatives comme Microsoft Security Copilot ont démontré comment l’assistance IA peut permettre aux intervenants de traiter les incidents en quelques minutes, tout en maintenant une supervision humaine cruciale. De même, ReliaQuest rapporte que son agent de sécurité IA traite les alertes 20 fois plus rapidement que les méthodes traditionnelles et améliore la précision de la détection des menaces de 30 %, le tout pendant que les humains gardent un contrôle ferme.

La direction de Prophet Security a souligné que leur objectif n’est pas d’éliminer des emplois, mais de libérer les analystes des tâches chronophages de tri et d’enquête sur les alertes. Cependant, les choix que les organisations feront maintenant concernant le déploiement de l’IA auront des conséquences à long terme. En cybersécurité, le coût d’une erreur de jugement s’étend au-delà des implications financières ; l’intégrité des données d’une entreprise pourrait dépendre de ces décisions. En fin de compte, les organisations les mieux placées pour prospérer seront celles qui tireront parti de l’IA pour augmenter et amplifier l’expertise humaine, reconnaissant que la vigilance humaine sera essentielle lorsque les adversaires commenceront à déployer l’IA contre l’IA.