Nudité IA et sécurité en ligne : le deux poids deux mesures des GAFAM

Dans une tournure curieuse pour l’ère numérique, alors que l’expression en ligne quotidienne liée au sexe est de plus en plus supprimée, un nouvel outil d’intelligence artificielle de xAI d’Elon Musk génère ouvertement des images suggestives et de nudité, y compris des deepfakes non consensuels de personnes réelles. Ce développement met en lumière un double standard frappant dans la régulation des contenus en ligne, où les puissants opèrent en toute impunité tandis que les petites plateformes et les utilisateurs ordinaires sont confrontés à une censure stricte.

Plus tôt cette semaine, xAI a lancé Grok Imagine, un générateur d’images et de vidéos doté d’un mode “épicé” capable de produire des résultats allant des gestes suggestifs à la nudité pure et simple. Il est crucial de noter que Grok Imagine semble manquer de garanties efficaces contre la création d’images de personnes réelles, ce qui signifie qu’il peut générer de la pornographie softcore de personnalités publiques. Alors que l’observation pratique suggère que l’outil produit principalement du contenu explicite mettant en scène des femmes, Musk a fièrement annoncé que plus de 34 millions d’images avaient été générées au cours de son premier jour de fonctionnement. Ce lancement démontre la capacité de xAI à contourner la pression croissante pour retirer le contenu adulte des services en ligne, en tirant parti d’ambiguïtés juridiques et d’une influence politique que peu d’autres entreprises possèdent.

Le lancement de Grok Imagine, aux côtés d’un compagnon chatbot romantique nommé Valentine, semble particulièrement discordant étant donné le climat actuel de censure sur Internet. Ces derniers mois ont vu une poussée significative pour marginaliser le contenu sexuel, même le mot lui-même, des espaces en ligne grand public. Fin du mois dernier, le Royaume-Uni a commencé à appliquer des réglementations de restriction d’âge qui obligent les plateformes comme X à bloquer le contenu sexuel ou “nuisible” pour les utilisateurs de moins de 18 ans. Simultanément, des groupes militants ont réussi à faire pression sur des plateformes comme Steam et Itch.io pour qu’elles répriment les jeux et médias pour adultes, ce qui a conduit Itch.io à désactiver en masse de nombreux téléchargements NSFW.

La question de la pornographie deepfake, en particulier celle de personnes réelles, relève des images intimes non consensuelles. Aux États-Unis, la publication intentionnelle de tels contenus est illégale en vertu de la loi Take It Down, signée par le président Donald Trump plus tôt cette année. Le Réseau national contre le viol, l’abus et l’inceste (RAINN) a rapidement condamné la fonctionnalité de Grok, la qualifiant de “partie d’un problème croissant d’abus sexuel basé sur l’image” et notant que Grok n’avait apparemment “pas reçu l’avis” concernant la nouvelle loi.

Cependant, les experts juridiques suggèrent que Grok pourrait n’encourir que peu de responsabilité en vertu de cette loi. Selon Mary Anne Franks, professeure à la faculté de droit de l’université George Washington et présidente de la Cyber Civil Rights Initiative (CCRI), la disposition pénale de la loi Take It Down exige une “publication”, ce qui implique que le contenu doit être mis à la disposition de plus d’une personne. Si Grok n’affiche les vidéos générées qu’à l’utilisateur qui les a créées, il pourrait ne pas atteindre ce seuil. De plus, Grok n’est probablement pas obligé de supprimer des images en vertu de la disposition de suppression de la loi, qui définit une “plateforme couverte” comme une plateforme qui “fournit principalement un forum pour le contenu généré par l’utilisateur”. Franks soutient que si le contenu généré par l’IA implique une contribution de l’utilisateur, le contenu lui-même est créé par l’IA, ce qui pourrait exempter Grok. La disposition de suppression repose également sur le signalement par l’utilisateur, et comme Grok ne publie pas publiquement ces images, il contourne ce mécanisme, bien qu’il permette aux utilisateurs de créer et de partager ensuite facilement un tel contenu sur d’autres plateformes.

Cette lacune réglementaire est un thème récurrent dans la gouvernance d’Internet visant à freiner les contenus nuisibles. Par exemple, le mandat du Royaume-Uni a involontairement rendu plus difficile le fonctionnement des forums indépendants tout en étant facilement contournable par les mineurs. Aux États-Unis, les agences de régulation n’ont cessé de ne pas imposer de conséquences significatives aux entreprises puissantes pour diverses infractions, en particulier celles appartenant à Elon Musk. Malgré son départ formel d’un poste gouvernemental important, l’influence de Musk sur des agences comme la FTC reste substantielle, renforcée encore par les récents contrats de défense attribués à xAI. Par conséquent, même si xAI était jugée en violation de la loi Take It Down, une enquête serait improbable.

Au-delà de la surveillance gouvernementale, divers gardiens de l’Internet influencent le contenu acceptable en ligne, adoptant souvent une position conservatrice sur le sexe. Apple, par exemple, a fait pression sur des plateformes comme Discord, Reddit et Tumblr pour qu’elles censurent le matériel NSFW. De même, Steam et Itch.io ont réévalué le contenu adulte sous la menace de perdre leurs relations avec les processeurs de paiement et les banques, une tactique précédemment employée contre des plateformes telles que OnlyFans et Pornhub. Bien qu’une partie de cette pression provienne de plateformes hébergeant des contenus incontestablement illégaux, l’application par Apple et les processeurs de paiement semble incohérente, fortement influencée par la pression publique équilibrée par le pouvoir de l’entreprise cible. Malgré des désaccords passés avec Trump, peu de personnalités du monde des affaires exercent plus d’influence politique que Musk.

Apple, qui a précédemment interdit des applications plus petites pour la génération de nudités IA de personnes réelles, n’a pas encore exercé une pression similaire sur Grok, dont le service vidéo a été lancé exclusivement sur iOS. Apple n’a pas commenté la question, suggérant un double standard potentiel. La nouvelle fonctionnalité de Grok constitue indéniablement une menace pour les individus dont les nudités non consensuelles peuvent désormais être créées sans effort sur un service d’IA majeur. Elle expose également le vide de la promesse d’un Internet “plus sûr”, où les petites plateformes subissent une pression intense pour supprimer les médias consensuellement enregistrés ou entièrement fictifs créés par l’homme, tandis que l’entreprise d’un milliardaire tire profit de contenus qui, dans certains contextes, sont explicitement illégaux. En 2025, le discours autour du sexe en ligne, comme toujours, est fondamentalement une question de pouvoir.