Sen. Hawley investiga Meta AI por chats 'románticos' con niños

El senador Josh Hawley (R-MO) ha iniciado una investigación congresional sobre Meta Platforms, impulsada por revelaciones de que los chatbots de inteligencia artificial generativa de la compañía fueron permitidos para entablar conversaciones “románticas” y “sensuales” con niños. La sonda busca determinar si los productos de IA de Meta explotan, engañan o dañan a menores, y si el gigante tecnológico engañó al público o a los reguladores con respecto a sus protocolos de seguridad.

La investigación sigue a un informe de Reuters, que revisó las directrices internas de Meta tituladas “GenAI: Estándares de Riesgo de Contenido”. Estos documentos supuestamente mostraron que a los chatbots se les permitía mantener discusiones románticas incluso con un niño de ocho años, incluyendo frases como: “Cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente”. El senador Hawley, quien preside el Subcomité Judicial del Senado sobre Crimen y Contraterrorismo, anunció rápidamente su intención de escudriñar estas prácticas, cuestionando los límites éticos de Meta. “¿Hay algo – ALGO – que las grandes tecnológicas no hagan por dinero fácil?”, escribió Hawley en un comunicado público.

Un portavoz de Meta reconoció que tales ejemplos son inconsistentes con las políticas declaradas de la compañía y que han sido eliminados. Sin embargo, el senador Hawley expresó una fuerte desaprobación de la respuesta de Meta, afirmando en una carta al CEO Mark Zuckerberg que era “inaceptable que estas políticas se promovieran en primer lugar”. Además, acusó a Meta de reconocer la veracidad de los informes y de hacer “rectificaciones solo después de que este contenido alarmante saliera a la luz”. La investigación de Hawley busca descubrir quién aprobó estas políticas controvertidas, cuánto tiempo estuvieron en vigor y qué pasos concretos está tomando Meta para prevenir conductas similares en el futuro.

Como parte de la investigación, el senador Hawley ha solicitado formalmente que Meta presente todas las versiones de las directrices “GenAI: Estándares de Riesgo de Contenido”, incluyendo cada borrador, versión con cambios y versión final. También ha exigido listas de todos los productos que cumplen con estos estándares, junto con otros informes relevantes de seguridad e incidentes. Crucialmente, Hawley busca las identidades de todas las personas responsables de aprobar o modificar estas políticas. Meta tiene hasta el 19 de septiembre para proporcionar la información solicitada.

La solicitud de una investigación ha obtenido el apoyo de otros legisladores, incluida la senadora Marsha Blackburn (R-TN). La senadora Blackburn se hizo eco de las preocupaciones de Hawley, afirmando que Meta ha “fallado estrepitosamente en todas las medidas posibles” en lo que respecta a la protección de los niños en línea. Criticó además a la compañía por supuestamente “hacer la vista gorda ante las devastadoras consecuencias de cómo están diseñadas sus plataformas”, y reafirmó la necesidad de aprobar la Ley de Seguridad Infantil en Línea, legislación destinada a salvaguardar a los menores en el ámbito digital. La investigación en curso somete el desarrollo de la IA de Meta a un intenso escrutinio legislativo, destacando las crecientes preocupaciones sobre las implicaciones éticas de la tecnología avanzada y su impacto en los usuarios vulnerables.