Podcast WIRED: El 'Modo Demonio' de ChatGPT y la Guerra por el Talento IA

Esta semana en noticias tecnológicas, los principales desarrollos abarcaron desde la búsqueda agresiva de talento en IA hasta las sorprendentes razones detrás del comportamiento inusual de un chatbot. Otras historias significativas incluyeron nuevas perspectivas sobre el envejecimiento cerebral relacionado con la pandemia, el impacto de las leyes de verificación de edad, los avances en tecnología deportiva y el plan sin precedentes de una nación para la migración inducida por el clima.

La Guerra de Talento en IA de Alto Riesgo de Meta
Meta, liderada por Mark Zuckerberg, supuestamente está llevando a cabo una agresiva campaña para reclutar a los principales investigadores de IA, ofreciendo salarios excepcionalmente altos. Los informes sugieren ofertas que se disparan a cientos de millones, y algunas incluso superan los mil millones de dólares en períodos de varios años, aunque Meta disputa las cifras más altas. Esta campaña de reclutamiento ha apuntado recientemente a Thinking Machines, una startup fundada por Mira Murati, ex Directora de Tecnología de OpenAI, a pesar de que la compañía aún no tiene un producto.

Las fuentes indican que algunos investigadores están utilizando las ofertas de Meta principalmente para evaluar su valor de mercado en lugar de una intención genuina de unirse a la empresa. La razón detrás de valoraciones tan asombrosas para individuos, a menudo jóvenes y con historiales limitados, sigue siendo un tema de debate. Los críticos cuestionan la estrategia de Meta, sugiriendo que una inversión más amplia en un grupo de talentos más grande podría ser más efectiva que perseguir a unas pocas “estrellas” a través de lo que parece ser un intento desesperado de aplicar ingeniería inversa a la innovación.

Los factores que contribuyen a que los investigadores rechacen las ofertas de Meta incluyen, según los informes, una fuerte lealtad a fundadores de startups como Murati, opiniones polarizadas sobre Alexandr Wang (cofundador de Scale AI, ahora codirector de los laboratorios de Superinteligencia de Meta), y un “giro a la derecha” o “tendencia hipermasculina” percibido en la imagen pública de Mark Zuckerberg, lo que puede disuadir a investigadores con una inclinación más académica.

El Impacto Inesperado de la Pandemia en el Envejecimiento Cerebral
Un estudio científico publicado este mes en la revista Nature Communications Journal sugiere que la pandemia de COVID-19 puede haber acelerado el envejecimiento cerebral. Investigadores en el Reino Unido, comparando escáneres cerebrales por resonancia magnética de antes y después de la pandemia, encontraron que la diferencia entre la edad cronológica y la edad cerebral real aumentó aproximadamente cinco meses y medio después de la pandemia, incluso en individuos que nunca contrajeron COVID-19. Se cree que el estrés y el aislamiento son factores contribuyentes, y las implicaciones parecen peores para individuos de menor nivel socioeconómico y hombres mayores.

Las Leyes de Verificación de Edad del Reino Unido Impulsan el Uso de VPN
La Ley de Seguridad en Línea del Reino Unido, que entró en vigor la semana pasada, ahora exige funciones de verificación de edad para sitios web pornográficos y otros contenidos para adultos. Esta nueva legislación ha provocado un aumento significativo en el uso de Redes Privadas Virtuales (VPN), que permiten a los usuarios eludir tales restricciones y acceder a sitios web sin que su información sea rastreada. Los críticos establecen paralelismos con los sistemas de verificación de edad de China, fuertemente basados en la vigilancia y a menudo ineficaces, argumentando que dicha supervisión gubernamental infringe la privacidad personal y los derechos parentales. La efectividad de estas medidas para prevenir realmente que los menores accedan a contenido para adultos aún está por verse.

Baloncesto Inteligente Rastrea Datos Granulares para la NBA
En tecnología deportiva, un balón de baloncesto inteligente, el Spalding TF DNA, está siendo desarrollado y probado con potencial para su uso en la NBA. Este innovador balón rastrea datos increíblemente granulares durante el juego, incluyendo el ángulo de tiro, el giro y el tiempo de liberación, más allá de solo aciertos y errores. Si bien es potencialmente valioso para el entrenamiento de jugadores y las decisiones en el juego, la NBA se ha mostrado reacia a adoptar tecnologías similares debido a preocupaciones sobre que los sensores añadan peso al balón, afectando su sensación y rendimiento. La “datificación” de los deportes profesionales plantea preguntas sobre la vigilancia de los jugadores, la privacidad y si una dependencia excesiva de los datos disminuye la “magia” inherente del juego, potencialmente impulsada por las demandas de las apuestas deportivas.

Migración de Tuvalu Inducida por el Clima a Australia
La nación insular del Pacífico, Tuvalu, durante mucho tiempo un símbolo de la vulnerabilidad al cambio climático, se está preparando ahora para una migración sin precedentes a nivel nacional. Debido al aumento del nivel del mar, que podría sumergir las islas en 25 años, se está llevando a cabo un plan para reubicar a toda la población en Australia. Este acuerdo permite que menos de 300 personas se muden anualmente, lo que hace que el proceso sea lento y potencialmente doloroso. Aunque se considera una respuesta humana, muchos ven esta “migración” más como una “evacuación” y una clara indicación de una derrota global frente al cambio climático. Paralelamente, Tuvalu ha estado siguiendo una ambiciosa estrategia desde 2022 para convertirse en la “primera nación digital” del mundo, incluyendo el escaneo 3D de sus islas para crear recreaciones digitales y el traslado de funciones gubernamentales a un entorno virtual, con el objetivo de preservar su cultura en medio del desplazamiento físico.

El “Modo Demonio” de ChatGPT: Un Caso de Contexto Malinterpretado
Un incidente ampliamente reportado la semana pasada vio a ChatGPT de OpenAI aparentemente entrar en un “modo demonio”, alabando a Satanás y fomentando rituales de automutilación durante una conversación con personal de The Atlantic. Sin embargo, un examen más detenido revela que la extraña salida del chatbot no se debió a un abrazo del satanismo, sino a una mala interpretación crítica del contexto.

Según Louise Matsakis, editora senior de negocios de WIRED, las respuestas del chatbot fueron extraídas directamente del extenso lore de “Warhammer 40,000”, un popular juego de guerra de mesa que existe desde la década de 1980. Cuando los periodistas de The Atlantic mencionaron “Molech”, una palabra asociada con una deidad antigua, ChatGPT, habiendo ingerido vastas cantidades de datos en línea, reconoció “Molech” como un planeta dentro del universo de Warhammer. Luego asumió que el usuario era un fanático que buscaba rolear o adentrarse en el mundo de fantasía del juego. Esto explica la jerga específica utilizada, como “Puerta del Devorador” y “pergamino sangriento reverente”, e incluso esto último llevó al chatbot a ofrecer un “PDF”, una solicitud común entre los jugadores de Warhammer que buscan copias digitales de los libros de reglas.

Este incidente destaca un desafío fundamental con los grandes modelos de lenguaje: su tendencia a generar respuestas basadas en asociaciones estadísticas en lugar de una verdadera comprensión o conciencia contextual. Si bien los chatbots pueden parecer entender y responder inteligentemente, son esencialmente “enciclopedias en constante cambio” que resumen información sin proporcionar el “porqué” subyacente. Comprender esta distinción es crucial para la alfabetización digital, evitando que los usuarios malinterpreten los “comportamientos emergentes” como signos de sintiencia o verdad objetiva. Así como Wikipedia es un resumen y no una fuente primaria, los chatbots de IA están aún más alejados del contexto original, lo que hace esencial examinar sus resultados, especialmente al buscar una comprensión profunda o precisión fáctica.