Senador Hawley investiga bots de IA de Meta por seguridad infantil

El senador Josh Hawley, republicano de Misuri, ha iniciado una investigación sobre los productos de inteligencia artificial de Meta, citando profundas preocupaciones sobre su posible daño a los niños. Esta investigación marca la más reciente de una serie de escrutinios que desafían el compromiso del gigante de las redes sociales de garantizar medidas de seguridad apropiadas para sus usuarios más jóvenes.

Como presidente del Subcomité de Crímenes y Contraterrorismo del Comité Judicial del Senado, el senador Hawley notificó formalmente al director ejecutivo de Meta, Mark Zuckerberg, sobre la investigación en una carta enviada el viernes. La carta exige que Meta proporcione amplia documentación y comunicaciones internas relacionadas con un informe reciente de Reuters. Dicho informe alegaba que Meta había permitido que sus bots de IA entablaran conversaciones “sensuales” y “románticas” con niños, lo que generó importantes alarmas sobre las salvaguardias de la compañía. El senador Hawley, vocal sobre sus preocupaciones, también publicó en X, cuestionando hasta qué punto las “Grandes Tecnológicas” priorizarían las ganancias sobre la seguridad y urgiéndolas a “Dejar a nuestros hijos en paz.”

Meta se ha negado a comentar directamente sobre la investigación del Senado. Sin embargo, el portavoz de la compañía, Andy Stone, declaró que Meta mantiene “políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben el contenido que sexualiza a los niños y los juegos de rol sexualizados entre adultos y menores.”

Esta nueva investigación se suma a una década de presión creciente sobre Meta con respecto a sus protecciones para usuarios menores de edad. La compañía, propietaria de plataformas populares como Instagram y Facebook, actualmente enfrenta demandas de más de 40 estados, todas alegando que sus productos afectan perjudicialmente la salud mental de los menores. El año pasado, durante una acalorada audiencia en el Congreso centrada en la seguridad infantil, el senador Hawley exigió notablemente una disculpa pública del Sr. Zuckerberg a los padres presentes en la audiencia.

En su carta al Sr. Zuckerberg, el senador Hawley subrayó que la investigación del subcomité profundizaría en si los productos de IA generativa de Meta facilitan la “explotación, el engaño u otros daños criminales a los niños”, y si Meta ha sido transparente con el público o los reguladores sobre sus medidas de seguridad. El informe de Reuters, publicado el jueves, citó un documento interno de Meta que supuestamente describía reglas de IA que permitían a los bots “involucrar a un niño en conversaciones románticas o sensuales.”

El impulso para una mayor protección infantil en línea ha obtenido un amplio apoyo bipartidista entre los legisladores. El Congreso aprobó recientemente la Ley Take It Down este año, una iniciativa que exige la eliminación de imágenes sexuales no consensuadas de las plataformas en línea. Además, los senadores Richard Blumenthal, demócrata de Connecticut, y Marsha Blackburn, republicana de Tennessee, han presentado conjuntamente la Ley de Seguridad en Línea para Niños (Kids Online Safety Act), un proyecto de ley diseñado para mejorar la privacidad y otras protecciones cruciales para los menores en línea.

Los legisladores han advertido constantemente que el advenimiento de sofisticadas tecnologías de IA podría exponer a los niños a riesgos aún mayores. Justo la semana pasada, la senadora Blackburn instó públicamente a Meta a deshabilitar una función de mapa en Instagram, expresando su preocupación de que podría inadvertidamente facilitar a los depredadores la localización de niños. “La compañía ha hecho la vista gorda ante las devastadoras consecuencias de cómo están diseñadas sus plataformas”, afirmó la senadora Blackburn, encapsulando la creciente frustración entre los legisladores.