Modo 'Spicy' de Grok AI: Deepfakes NSFW de mujeres, no de hombres
xAI, la empresa de inteligencia artificial de Elon Musk, ha lanzado recientemente Grok Imagine, una herramienta de generación de imágenes y videos disponible para los suscriptores de SuperGrok y Premium+ X en iOS. La plataforma presenta un controvertido modo “Spicy” (Picante), que rápidamente ha sido objeto de escrutinio por su capacidad para producir contenido sexualmente sugerente, particularmente en lo que respecta a su trato dispar de los géneros.
Los informes iniciales destacaron la facilidad con la que los usuarios podían generar videos sin camiseta de figuras prominentes como Taylor Swift, a menudo sin indicaciones explícitas de desnudez. Una investigación posterior de Gizmodo confirmó esta tendencia, revelando un sesgo de género significativo en el contenido producido por el modo “Spicy” de Grok Imagine. En pruebas exhaustivas que involucraron aproximadamente dos docenas de videos de políticos, celebridades y figuras tecnológicas, la IA generó consistentemente imágenes verdaderamente no seguras para el trabajo (NSFW) solo cuando representaba a mujeres. Si bien algunos intentos resultaron en contenido borroso o mensajes de moderación, las generaciones exitosas de figuras femeninas a menudo las mostraban despojándose de la ropa para aparecer desnudas de cintura para arriba. En un caso notable, un video de la difunta escritora feminista Valerie Solanas la mostraba completamente desnuda.
Por el contrario, los intentos de generar videos “Spicy” de figuras masculinas, incluidos el propio Elon Musk, Mark Zuckerberg, Jeff Bezos, Joaquin Phoenix, Charlie Chaplin y los expresidentes Barack Obama, Bill Clinton y George Washington, arrojaron resultados consistentemente menos explícitos. En la mayoría de los casos, la IA simplemente mostraba a los hombres quitándose la camisa, sin más desnudez. Incluso cuando se le pedía un “hombre genérico”, el resultado era un video incómodo y no explícito de un hombre tirando de sus pantalones, que parecía ser una extraña combinación de pantalones cortos y jeans. En marcado contraste, una indicación de “mujer genérica” en el modo “Spicy” resultó en imágenes reveladoras de una mujer en traje de baño bajándose la parte superior para exponer sus senos. Esta marcada diferencia subraya un patrón preocupante en el que los avatares femeninos son sexualizados fácilmente, mientras que los avatares masculinos no lo son.
La proliferación de dicho contenido en X (anteriormente Twitter) ha sido rápida, con el propio Elon Musk afirmando que ya se han creado decenas de millones de imágenes de Grok Imagine. La facilidad de generación es una preocupación clave; los usuarios simplemente necesitan seleccionar el botón “Spicy”, una de las cuatro opciones junto con “Custom” (Personalizado), “Fun” (Divertido) y “Normal”, sin necesidad de escribir comandos explícitos para la desnudez. Esta capacidad plantea importantes cuestiones éticas y legales, especialmente a la luz de iniciativas como la “Ley de Eliminación” (Take It Down Act), que tiene como objetivo criminalizar la publicación de “imágenes íntimas” no consensuales, incluidos los deepfakes.
Los generadores de video de IA convencionales, como Sora de OpenAI y Veo de Google, suelen incorporar sólidas salvaguardias para evitar la creación de pornografía de venganza e imágenes de celebridades no consensuales. Si bien Grok Imagine presenta una ventana de verificación de edad en el primer intento de un usuario de crear un video, su efectividad es cuestionable, ya que no parece haber un mecanismo genuino para verificar el año de nacimiento de un usuario. Además, la IA sí parece aplicar cierto nivel de moderación para cierto contenido, ya que las pruebas que involucraron personajes de dibujos animados como Mickey Mouse o niños, según los informes, no produjeron resultados inapropiados, incluso cuando se seleccionó el modo “Spicy”.
A pesar de la naturaleza controvertida de su modo “Spicy”, Grok Imagine también exhibe importantes fallas técnicas. Muchas de las imágenes generadas por IA de figuras públicas, como el vicepresidente JD Vance o la actriz Sydney Sweeney, son poco convincentes e inexactas, apenas se parecen a sus contrapartes de la vida real. Esta falta de fidelidad fotorrealista podría, paradójicamente, servir como defensa parcial contra futuros desafíos legales, ya que la naturaleza poco convincente de los deepfakes podría disminuir su potencial de daño o confusión.
El enfoque de la plataforma hacia la moderación de contenido y su resultado sesgado por el género son particularmente notables dadas las declaraciones públicas y acciones pasadas de Elon Musk. El multimillonario tiene un historial de comentarios controvertidos sobre las mujeres y anteriormente ha restablecido cuentas en X que fueron señaladas por publicar material de abuso sexual infantil. xAI no ha respondido a las consultas sobre las salvaguardias existentes o la permisibilidad de generar videos de celebridades sin camiseta. El estado actual de Grok Imagine destaca un desafío significativo en el desarrollo de la IA: equilibrar la libertad creativa con la responsabilidad ética, especialmente cuando se trata de la generación de contenido sensible y potencialmente explotador.