La Nouvelle Ère de la Propagande IA : Les Opérations d'Influence Sophistiquées de GoLaxy

Le paysage des opérations d'influence internationales a subi une profonde transformation. L'ère de l'ingérence grossière et de basse technologie, caractérisée par des messages de bots génériques et du contenu de faible qualité, cède la place à une nouvelle forme plus insidieuse de manipulation numérique. Avec les progrès rapides de l'intelligence artificielle (IA) générative, la menace principale n'est plus simplement un déluge de faussetés manifestes, mais plutôt la formation subtile et corrosive de la communication en ligne. Cette nouvelle approche implique des récits générés par l'IA, conçus pour s'intégrer de manière transparente dans les discussions numériques quotidiennes, modifiant l'opinion publique sans attirer une attention explicite.

La preuve de ce changement provient d'un ensemble de documents récemment découverts par l'Institut de sécurité nationale de l'Université Vanderbilt, révélant les activités d'une entreprise chinoise nommée GoLaxy. Ces matériaux suggèrent que GoLaxy est en train de devenir un chef de file dans les campagnes d'influence technologiquement avancées et alignées sur l'État. L'entreprise déploierait des réseaux de bots semblables à des humains et un profilage psychologique sophistiqué pour cibler des individus. Ses opérations et ses affirmations indiquent des liens potentiels avec le gouvernement chinois.

GoLaxy aurait déjà déployé sa technologie à Hong Kong et à Taïwan, les documents suggérant une expansion potentielle aux États-Unis. Cela indique que la propagande basée sur l'IA n'est plus une préoccupation théorique, mais un outil opérationnel et sophistiqué qui remodèle activement la manière dont l'opinion publique peut être manipulée à grande échelle.

Un représentant de GoLaxy a cependant déclaré que l'entreprise se concentrait sur les services de renseignement commercial et a nié développer des réseaux de bots ou des outils de profilage psychologique ciblant des individus. L'entreprise a également nié être sous l'autorité d'une agence ou organisation gouvernementale quelconque.

Ce qui distingue GoLaxy, selon les documents, c'est son intégration de l'IA générative avec de vastes quantités de données personnelles. Ses systèmes extrairaient continuellement des données des plateformes de médias sociaux pour construire des profils psychologiques dynamiques. Le contenu est ensuite personnalisé en fonction des valeurs, des croyances, des tendances émotionnelles et des vulnérabilités d'un individu. Les personas IA peuvent ensuite engager les utilisateurs dans ce qui semble être des conversations authentiques et en temps réel, conçues pour éviter la détection. Cela crée un moteur de propagande très efficace, conçu pour être presque indiscernable d'une interaction en ligne légitime, livré instantanément et à une échelle sans précédent.

Bien que des exemples spécifiques de ces conversations n'aient pas été fournis dans les documents, ils détaillent comment la technologie génère du contenu personnalisé. En extrayant les données des utilisateurs et en analysant des modèles plus larges, l'IA peut construire des messages synthétiques attrayants pour un large éventail de publics. Elle peut s'adapter au ton, aux valeurs, aux habitudes et aux intérêts d'un utilisateur, imitant de vrais utilisateurs en aimant des publications, en laissant des commentaires et en poussant du contenu ciblé.

Selon les documents découverts, GoLaxy a utilisé sa technologie en 2020 pour atténuer l'opposition à une loi sur la sécurité nationale à Hong Kong qui réprimait la dissidence politique. L'entreprise aurait identifié des milliers de participants et de leaders d'opinion parmi 180 000 comptes Twitter de Hong Kong, puis aurait utilisé son réseau de faux profils pour « corriger » ce qu'elle percevait comme des mensonges et des idées fausses.

Les activités de l'entreprise se seraient étendues jusqu'à la période précédant les élections taïwanaises de 2024. Au milieu de fausses allégations de corruption et de deepfakes propagés par des groupes alignés sur la Chine sur les médias sociaux, GoLaxy aurait suggéré des stratégies pour saper le Parti démocrate progressiste de Taïwan, qui s'oppose aux revendications de Pékin sur l'île. L'entreprise aurait recueilli et probablement fourni des informations sur les tendances du débat politique taïwanais, recommandant le déploiement de réseaux de bots pour exploiter les divisions politiques existantes. GoLaxy avait déjà accumulé des données étendues sur Taïwan pour soutenir de telles intrusions, y compris des cartes organisationnelles détaillées des institutions gouvernementales et des profils de plus de 5 000 comptes taïwanais.

Dans une déclaration écrite, GoLaxy a nié avoir fourni un soutien technique pour les activités à Hong Kong et à Taïwan.

Bien que les déploiements actifs de GoLaxy semblent avoir été confinés jusqu'à présent à la région indo-pacifique, les preuves contenues dans les documents suggèrent que l'entreprise se prépare à des opérations étendues, potentiellement y compris les États-Unis. GoLaxy aurait compilé des profils de données sur au moins 117 membres du Congrès américain et plus de 2 000 personnalités politiques et leaders d'opinion américains. GoLaxy a déclaré n'avoir pas collecté de données ciblant des responsables américains.

GoLaxy opérerait en étroite collaboration avec les priorités de sécurité nationale de la Chine, bien qu'aucun contrôle gouvernemental formel n'ait été publiquement confirmé. L'entreprise a été fondée en 2010 par un institut de recherche de l'Académie chinoise des sciences, contrôlée par l'État, et son président a été directeur adjoint de ce même institut. Les documents suggèrent que GoLaxy a depuis collaboré avec des organismes de renseignement, de parti et militaires de haut niveau, indiquant une profonde intégration avec le système politique chinois. Renforçant davantage ces connexions, GoLaxy a reçu un financement en 2021 de Sugon, une entreprise de supercalcul basée à Pékin identifiée par le Pentagone comme une filiale militaire chinoise. La plateforme d'IA de GoLaxy, accessible au public, se coordonnerait avec les supercalculateurs de Sugon et DeepSeek-R1, l'un des principaux modèles d'IA de Chine.

Ces connexions soulignent que les opérations d'influence ne sont plus une préoccupation périphérique mais évoluent en instruments fondamentaux de la diplomatie. Les champs de bataille modernes englobent désormais non seulement les territoires géographiques, mais aussi les plateformes en ligne que nous utilisons quotidiennement.

La stratégie employée par GoLaxy et des entités similaires transforme en arme l'ouverture même qui sous-tend les sociétés démocratiques. Le débat, la transparence et le pluralisme — piliers de la force démocratique — sont simultanément des points de vulnérabilité. Des outils technologiques comme ceux de GoLaxy exploitent ces qualités, estompant la ligne entre la surveillance et la persuasion à un rythme accéléré. Le danger réside dans la furtivité et l'ampleur de ces méthodes, ainsi que leur amélioration rapide. Le contenu généré par l'IA peut être déployé silencieusement sur des populations entières avec une résistance minimale, opérant continuellement pour façonner l'opinion et corroder subtilement les institutions démocratiques.

Pour contrer la menace croissante des opérations d'influence étrangères basées sur l'IA, une réponse coordonnée et urgente est essentielle. Les chercheurs universitaires doivent s'efforcer de cartographier comment l'intelligence artificielle, le renseignement open-source et les campagnes d'influence en ligne convergent pour servir les objectifs d'États hostiles. Le gouvernement américain doit prendre les devants pour perturber l'infrastructure derrière ces opérations, le Département de la Défense ciblant les réseaux d'influence étrangers et le Bureau fédéral d'enquête collaborant étroitement avec les plateformes numériques pour identifier et contrer les faux personas. Simultanément, le secteur privé doit accélérer le développement de capacités de détection de l'IA pour renforcer notre capacité à identifier le contenu synthétique. Sans la capacité de le détecter, des contre-mesures efficaces deviennent impossibles.

Le monde entre dans une nouvelle ère de « conflit en zone grise », définie par une guerre de l'information exécutée avec une échelle, une vitesse et une sophistication sans précédent. Un échec à développer rapidement des défenses contre cette forme d'influence basée sur l'IA laissera les sociétés dangereusement exposées.