Le "Mode Pimenté" de Grok Imagine et la controverse sur le contenu IA NSFW

xAI, la société d’intelligence artificielle d’Elon Musk, a officiellement lancé Grok Imagine, une nouvelle fonctionnalité conçue pour générer des images et de courtes vidéos à partir de prompts textuels. L’outil est désormais accessible aux abonnés SuperGrok et Premium+ sur X (anciennement Twitter) via iOS. Conformément à l’approche “sans filtre” de Musk en matière de contenu, Grok Imagine permet la création de contenu incluant des images semi-dénudées.

Grok Imagine est capable de produire des vidéos de 15 secondes, complètes avec audio natif, à partir de texte ou de prompts d’images existantes. Une inclusion notable est son “mode pimenté” (spicy mode), un réglage qui élargit la portée de la création de contenu à thème adulte. Bien que la fonctionnalité interdise strictement les visuels entièrement explicites ou pornographiques, les utilisateurs ont réussi à générer des images créées par IA représentant une nudité féminine partielle. Cependant, les filtres de modération du système sont conçus pour flouter ou bloquer le contenu jugé excessivement graphique.

Cette position permissive sur le contenu s’aligne avec la récente sortie par xAI d’un compagnon IA de style anime hautement sexualisé. Néanmoins, l’introduction du “mode pimenté” de Grok Imagine pourrait déclencher une controverse, faisant écho aux critiques passées rencontrées par le chatbot Grok, qui avait précédemment généré du contenu antisémite et misogyne.

La prise de conscience publique du “mode pimenté” est apparue pour la première fois suite à un post X désormais supprimé par Mati Roy, un employé de xAI, qui indiquait la capacité de la fonctionnalité à la “nudité”. Depuis lors, les utilisateurs ont activement testé les limites de l’outil.

Malgré son ouverture à certains types de contenu mature, Grok Imagine impose des restrictions spécifiques. Par exemple, les tentatives de générer des images bizarres ou inappropriées impliquant des personnalités publiques, telles qu’un Donald Trump enceinte, sont bloquées, l’outil proposant à la place des alternatives plus innocues. De même, la génération d’images de personnalités publiques comme Taylor Swift est possible, mais dans des limites définies.

D’un point de vue technique, Grok Imagine démontre des capacités impressionnantes. Il génère rapidement des images à partir de prompts, crée automatiquement de nouveaux visuels au fur et à mesure que les utilisateurs défilent, et peut transformer des images fixes en courtes vidéos stylisées. Bien que les figures humaines dans le contenu généré apparaissent parfois quelque peu artificielles, caractérisées par une texture de peau cireuse et des traits de dessin animé, l’outil montre un potentiel significatif. Elon Musk a déclaré que le modèle devrait “s’améliorer chaque jour”.

Alors que Grok Imagine continue de repousser les limites créatives et éthiques, la question centrale demeure de savoir jusqu’où la technologie évoluera et quelles, le cas échéant, directives de contenu elle finira par respecter ou transgresser.