Senadores arremeten contra Meta por permitir chats "románticos" con niños

Dos senadores estadounidenses de partidos opuestos están criticando duramente a Meta tras un informe reciente de Reuters, que reveló que las directrices internas de inteligencia artificial de la compañía supuestamente permitían que sus modelos de IA entablaran conversaciones románticas o sensuales con niños. El documento, revisado por Reuters, también supuestamente permitía a los chatbots de IA de Meta generar información médica inexacta y producir declaraciones con sesgos raciales.

Meta ha confirmado desde entonces la autenticidad del documento, informó Reuters. La compañía declaró que eliminó las partes controvertidas relacionadas con las interacciones con niños solo después de recibir consultas del medio de comunicación a principios de este mes. Esta revisión posterior a la divulgación ha provocado una considerable ira entre los legisladores.

El senador Josh Hawley, republicano de Misuri, pidió rápidamente una acción congresional inmediata en respuesta a las revelaciones. “Así que, solo después de que Meta fuera DESCUBIERTA, retractó porciones de su documento de empresa que consideraba ‘permisible para los chatbots coquetear y participar en juegos de rol románticos con niños’”, publicó Hawley en X, añadiendo: “Esto es motivo para una investigación congresional inmediata.”

Haciéndose eco de este sentimiento, el senador demócrata Brian Schatz de Hawái expresó una profunda indignación. “Esto es asqueroso y malvado”, escribió Schatz en X. “No puedo entender cómo alguien con un hijo hizo algo más que enloquecer cuando alguien dijo esta idea en voz alta. Me explota la cabeza sabiendo que varias personas aprobaron esto.”

Las directrices en cuestión fueron supuestamente aprobadas por múltiples equipos clave de Meta, incluidos sus departamentos legal, de políticas públicas e ingeniería, y notablemente, por su jefe de ética. En respuesta a la creciente controversia, Meta ha dicho a Reuters que tales conversaciones con niños nunca debieron ser permitidas y confirmó que está revisando activamente el documento. El incidente subraya las preocupaciones continuas sobre los protocolos de seguridad y las consideraciones éticas que rigen el desarrollo y la implementación de tecnologías avanzadas de IA, particularmente cuando interactúan con poblaciones vulnerables.