Senador investiga a Meta AI por chats "sensuales" con niños
El senador Josh Hawley, republicano por Misuri, ha iniciado una investigación exhaustiva sobre Meta Platforms, impulsado por un documento interno filtrado que supuestamente reveló la aceptación del gigante tecnológico de que sus herramientas de inteligencia artificial participaran en conversaciones “sensuales” con niños. El documento, titulado “GenAI: Content Risk Standards” y obtenido por Reuters, ha provocado una indignación pública generalizada, particularmente dadas las informaciones de que el equipo legal de Meta había aprobado los comportamientos controvertidos.
Hawley expresó su indignación en las redes sociales, cuestionando los límites éticos de las grandes empresas tecnológicas. “¿Hay algo, CUALQUIER COSA, que las Grandes Tecnológicas no hagan por un dinero rápido?”, tuiteó Hawley. “Ahora nos enteramos de que los chatbots de Meta fueron programados para mantener conversaciones explícitas y ‘sensuales’ con niños de 8 años. Es repugnante. Estoy iniciando una investigación completa para obtener respuestas. Grandes Tecnológicas: Dejad en paz a nuestros hijos.”
Acompañando su declaración pública, había una carta dirigida al CEO de Meta, Mark Zuckerberg, describiendo el documento interno como “alarmante” e “inaceptable”. La carta instruía además a Meta a conservar todos los registros pertinentes para su futura presentación al Senado. Como presidente del Subcomité Judicial del Senado sobre Delincuencia y Contraterrorismo, Hawley declaró que aprovecharía su posición para supervisar la investigación de los productos de IA generativa de Meta.
De la carta de Hawley, un ejemplo particularmente perturbador citado de las supuestas reglas internas de Meta detallaba un chatbot de IA comentando sobre el cuerpo de un niño de ocho años como “una obra de arte” de la cual “cada pulgada… es una obra maestra, un tesoro que aprecio profundamente”. Hawley condenó tal conducta como “reprobable e indignante”, afirmando que demuestra una “actitud despreocupada” hacia los riesgos significativos que la IA generativa plantea al desarrollo juvenil sin salvaguardias robustas. Hizo hincapié en que los padres merecen transparencia y los niños merecen protección.
La solicitud del senador a Meta incluye todas las iteraciones del documento “GenAI: Content Risk Standards”, una lista exhaustiva de productos de Meta regidos por estas normas, y cualquier evaluación de riesgos o informes de incidentes relacionados. Además, Hawley busca las identidades de las personas dentro de la empresa responsables de estas decisiones políticas.
En respuesta a la carta de Hawley, Meta declinó hacer comentarios directos. Sin embargo, un portavoz de la compañía emitió un comunicado sobre la historia de Reuters, afirmando que Meta mantiene políticas claras que prohíben a los personajes de IA ofrecer contenido que sexualice a niños o participar en juegos de rol sexualizados entre adultos y menores. El portavoz aclaró que, si bien existen cientos de ejemplos y notas que reflejan discusiones internas sobre escenarios hipotéticos, los ejemplos y notas específicos en cuestión eran “erróneos e inconsistentes con nuestras políticas” y desde entonces han sido eliminados.
El informe de Reuters también destacó otros comportamientos considerados aceptables por el departamento legal de Meta, como la difusión de información falsa sobre celebridades, siempre que se incluya un descargo de responsabilidad que indique que la información es inexacta. Por el contrario, la política prohíbe estrictamente los comportamientos de los chatbots de IA como el discurso de odio y el “asesoramiento legal, sanitario o financiero definitivo” si dicho asesoramiento comienza con “Yo recomiendo”.
La controversia ha generado críticas más amplias más allá de los círculos gubernamentales. El músico Neil Young, según se informa, ha anunciado que ya no usará Facebook a la luz de las revelaciones, lo que subraya la creciente preocupación pública por la ética de la IA y la seguridad infantil.