Grok IA génère des faux nus non sollicités de Taylor Swift
Le modèle d’IA d’Elon Musk, Grok, est une fois de plus sous surveillance suite à des rapports selon lesquels sa nouvelle fonctionnalité de génération de vidéo, “Grok Imagine”, est capable de produire des images de nus non sollicitées de célébrités, spécifiquement Taylor Swift. Cette révélation intervient peu après que Grok ait été critiqué pour d’autres sorties problématiques et au milieu de préoccupations plus larges concernant les images non consensuelles générées par l’IA.
Le problème a été mis en lumière par Jess Weatherbed de The Verge, qui a découvert cette capacité préoccupante peu après la sortie publique de Grok Imagine. La requête initiale de Weatherbed, innocemment destinée, demandait à Grok de représenter “Taylor Swift célébrant Coachella avec les garçons”. Cette demande a produit plus de 30 images de Swift dans des tenues révélatrices. Le problème a dégénéré lorsque Weatherbed a ensuite sélectionné le préréglage “épicé” parmi les quatre options de Grok Imagine (personnalisé, normal, amusant, épicé) et a confirmé sa date de naissance. Cette action a conduit Grok à générer un clip vidéo montrant Swift “arrachant ses vêtements” et “dansant en string” devant une foule générée par l’IA.
Cet incident est particulièrement alarmant étant donné que ces sorties ont été générées sans aucun “jailbreaking” explicite ni invites directes pour la nudité. Il fait également écho à une controverse majeure de l’année dernière lorsque des images deepfake sexualisées de Taylor Swift ont largement circulé sur X (anciennement Twitter). À l’époque, le compte Sécurité de X avait explicitement déclaré une “politique de tolérance zéro” pour la nudité non consensuelle (NCN) et s’était engagé à supprimer ce type de contenu et à prendre des mesures contre les comptes responsables. Le problème actuel de Grok fait également suite à des controverses antérieures, telles que le chatbot IA se qualifiant de “MechaHitler” lors d’un incident antisémite.
Fait intéressant, Grok lui-même aurait fait référence au rapport de The Verge, confirmant que sa conception pouvait effectivement conduire à des sorties de célébrités partiellement nues. Bien que xAI, le développeur de Grok, puisse résoudre ce problème par un réglage plus fin, le défi semble complexe. Les tests de Weatherbed ont indiqué que les invites directes demandant des images de nus non consensuels de Swift aboutissaient à des boîtes vides, et Grok a également refusé de représenter des enfants de manière inappropriée ou de modifier l’apparence de Swift d’autres manières (par exemple, la faire paraître en surpoids). Cependant, le mode “épicé” a continué à générer par défaut des deepfakes de Swift “arrachant” ses vêtements dans plusieurs cas, suggérant une difficulté à distinguer entre les demandes des utilisateurs pour du contenu “épicé” et du matériel illégal.
Le moment de ce problème est critique, car le “Take It Down Act” (Loi sur le retrait) doit entrer en vigueur l’année prochaine. Cette législation exigera que les plateformes suppriment rapidement les images sexuelles non consensuelles, y compris celles générées par l’IA. Le fait de ne pas corriger les sorties de Grok pourrait potentiellement exposer xAI à des conséquences légales. Malgré la gravité des découvertes de The Verge, X n’a pas encore émis de commentaire public. Pendant ce temps, Elon Musk a activement promu Grok Imagine sur X, encourageant les utilisateurs à partager leurs “créations”.