Desnudos de IA y seguridad online: la doble moral de las grandes tecnológicas
En un curioso giro de la era digital, mientras la expresión online cotidiana relacionada con el sexo es cada vez más suprimida, una nueva herramienta de inteligencia artificial de xAI de Elon Musk está generando abiertamente imágenes sugerentes y de desnudos, incluyendo deepfakes no consensuados de individuos reales. Este desarrollo subraya un marcado doble rasero en la regulación de contenido online, donde los poderosos operan con impunidad mientras las plataformas más pequeñas y los usuarios comunes enfrentan una censura estricta.
A principios de esta semana, xAI lanzó Grok Imagine, un generador de imágenes y videos que cuenta con un modo “picante” capaz de producir resultados que van desde gestos sugerentes hasta la desnudez total. Crucialmente, Grok Imagine parece carecer de salvaguardias efectivas contra la creación de imágenes de personas reales, lo que significa que puede generar pornografía softcore de figuras públicas. Si bien la observación práctica sugiere que la herramienta produce predominantemente contenido explícito con mujeres, Musk anunció con orgullo que se generaron más de 34 millones de imágenes en su primer día de operación. Este lanzamiento demuestra la capacidad de xAI para eludir la creciente presión para eliminar el contenido para adultos de los servicios online, aprovechando ambigüedades legales e influencia política que pocas otras compañías poseen.
El debut de Grok Imagine, junto con un chatbot compañero romántico llamado Valentine, parece particularmente discordante dado el clima actual de censura en internet. En los últimos meses se ha producido un impulso significativo para marginar el contenido sexual, incluso la palabra misma, de los espacios online principales. A finales del mes pasado, el Reino Unido comenzó a aplicar regulaciones de restricción de edad que obligan a plataformas como X a bloquear contenido sexual o “dañino” para usuarios menores de 18 años. Al mismo tiempo, grupos activistas presionaron con éxito a plataformas como Steam e Itch.io para que tomaran medidas enérgicas contra los juegos y medios para adultos, lo que llevó a Itch.io a eliminar masivamente numerosos archivos NSFW.
El problema de la pornografía deepfake, particularmente la de personas reales, se enmarca en la categoría de imágenes íntimas no consensuadas. En Estados Unidos, la publicación intencional de dicho contenido es ilegal bajo la Ley Take It Down, firmada por el presidente Donald Trump a principios de este año. La Red Nacional de Violación, Abuso e Incesto (RAINN) condenó rápidamente la característica de Grok, calificándola de “parte de un problema creciente de abuso sexual basado en imágenes” y señalando que Grok aparentemente “no se enteró” de la nueva ley.
Sin embargo, los expertos legales sugieren que Grok puede enfrentar poca responsabilidad bajo esta ley. Según Mary Anne Franks, profesora de la Facultad de Derecho de la Universidad George Washington y presidenta de la Iniciativa de Derechos Civiles Cibernéticos (CCRI), la disposición penal de la Ley Take It Down requiere “publicación”, lo que implica que el contenido debe estar disponible para más de una persona. Si Grok solo muestra videos generados al usuario que los creó, es posible que no cumpla con este umbral. Además, es probable que Grok no esté obligado a eliminar imágenes bajo la disposición de eliminación de la ley, que define una “plataforma cubierta” como aquella que “proporciona principalmente un foro para contenido generado por el usuario”. Franks argumenta que, si bien el contenido generado por IA implica la entrada del usuario, el contenido en sí es creado por IA, lo que podría eximir a Grok. La disposición de eliminación también se basa en el marcado por parte del usuario, y dado que Grok no publica públicamente estas imágenes, evade este mecanismo, a pesar de facilitar increíblemente que los usuarios creen y posteriormente compartan ampliamente dicho contenido en otras plataformas.
Esta laguna regulatoria es un tema recurrente en la gobernanza de internet destinada a frenar el contenido dañino. Por ejemplo, el mandato del Reino Unido ha dificultado inadvertidamente la operación de foros independientes, mientras que los menores pueden eludirlo fácilmente. En EE. UU., las agencias reguladoras han fallado constantemente en imponer consecuencias significativas a las empresas poderosas por diversas infracciones, especialmente aquellas propiedad de Elon Musk. A pesar de su partida formal de un puesto gubernamental significativo, la influencia de Musk sobre agencias como la FTC sigue siendo sustancial, reforzada aún más por los recientes contratos de defensa otorgados a xAI. En consecuencia, incluso si se descubriera que xAI está violando la Ley Take It Down, una investigación sería poco probable.
Más allá de la supervisión gubernamental, varios guardianes influyen en el contenido online aceptable, a menudo adoptando una postura conservadora sobre el sexo. Apple, por ejemplo, ha presionado a plataformas como Discord, Reddit y Tumblr para que censuren material NSFW. De manera similar, Steam e Itch.io reevaluaron el contenido para adultos bajo la amenaza de perder relaciones con procesadores de pago y bancos, una táctica empleada anteriormente contra plataformas como OnlyFans y Pornhub. Si bien parte de esta presión proviene de plataformas que alojan contenido inequívocamente ilegal, la aplicación por parte de Apple y los procesadores de pago parece inconsistente, fuertemente influenciada por la presión pública equilibrada con el poder de la empresa objetivo. A pesar de desacuerdos pasados con Trump, pocas figuras empresariales ejercen más influencia política que Musk.
Apple, que previamente ha prohibido aplicaciones más pequeñas por generar desnudos de IA de personas reales, aún no ha ejercido una presión similar sobre Grok, cuyo servicio de video se lanzó exclusivamente en iOS. Apple no ha comentado al respecto, lo que sugiere un posible doble rasero. La nueva característica de Grok innegablemente representa una amenaza para las personas cuyos desnudos no consensuados ahora pueden crearse sin esfuerzo en un servicio de IA importante. También expone la vacuidad de la promesa de un internet “más seguro”, donde las plataformas pequeñas enfrentan una intensa presión para eliminar medios consensuados o completamente ficticios hechos por humanos, mientras que la compañía de un multimillonario se beneficia de contenido que, en algunos contextos, es explícitamente ilegal. En 2025, la narrativa en torno al sexo online, como siempre, se trata fundamentalmente de poder.