La 'Tecno-Religión' de la IA en Silicon Valley y su Creciente Influencia

En el centro de Berkeley, California, un antiguo hotel conocido como Rose Garden Inn se ha transformado en Lighthaven, un complejo extenso que sirve como centro neurálgico para una comunidad profundamente interesada en la búsqueda de la inteligencia artificial y el futuro de la humanidad. Este complejo cerrado, que cubre una manzana significativa de la ciudad, cuenta con cinco edificios, un parque con rosales y fuentes, y estatuas neoclásicas, con su estructura más alta, Bayes House, nombrada en honor a un matemático del siglo XVIII.

Lighthaven es la sede de facto de un grupo conocido como los Racionalistas. Sus diversos intereses abarcan las matemáticas, la genética y la filosofía, pero una creencia central los une: la inteligencia artificial tiene el potencial de mejorar enormemente la vida humana, siempre que no conduzca primero a la destrucción de la humanidad. Creen que es responsabilidad de quienes desarrollan la IA asegurar su alineación con el bien común.

Los Racionalistas ya discutían los riesgos existenciales de la IA años antes de que el público en general conociera la tecnología a través de avances como ChatGPT de OpenAI. Su influencia se ha expandido silenciosamente por toda la industria tecnológica, impactando a actores importantes como Google y a firmas pioneras de IA como OpenAI y Anthropic. Figuras prominentes del mundo de la IA, incluidos Shane Legg de DeepMind de Google, el CEO de Anthropic, Dario Amodei, y el exinvestigador de OpenAI, Paul Christiano, han sido moldeados por la filosofía Racionalista. Incluso Elon Musk ha reconocido que muchas de las ideas de la comunidad resuenan con las suyas, destacando que conoció a su expareja, Grimes, por una referencia compartida a "El Basilisco de Roko", un elaborado experimento mental que sugiere que una futura IA todopoderosa podría castigar a quienes no contribuyeron a su creación. A pesar de esta influencia, muchos líderes tecnológicos a menudo se abstienen de identificarse abiertamente como Racionalistas, una etiqueta que históricamente ha atraído el ridículo.

La comunidad Racionalista está estrechamente aliada con el movimiento del Altruismo Eficaz (EA), que busca optimizar los esfuerzos filantrópicos calculando el máximo beneficio por donación. Esta forma de utilitarismo extiende su preocupación no solo a las generaciones actuales sino a todas las personas futuras. En consecuencia, muchos Altruistas Eficaces han concluido que salvaguardar a la humanidad de la destrucción inducida por la IA es la forma más impactante de beneficiar a la especie. Los Racionalistas a menudo se identifican como EA, y viceversa, creando una relación simbiótica que ha canalizado cientos de millones de dólares hacia empresas, laboratorios de investigación y think tanks dedicados tanto a construir como a garantizar la seguridad de la IA. Los principales financiadores incluyen magnates de la tecnología como el cocreador de Skype, Jaan Tallinn, y el cofundador de Facebook, Dustin Moskovitz. Como observa la antropóloga Mollie Gleiberman, han "construido un vasto ecosistema bien financiado para difundir, amplificar y validar su ideología".

El impacto de estas creencias es cada vez más evidente dentro de la industria tecnológica. A finales de 2023, el CEO de OpenAI, Sam Altman, fue brevemente destituido de su puesto por miembros de la junta con vínculos con los movimientos Racionalista y EA, citando una falta de confianza en su compromiso de desarrollar IA únicamente para el beneficio de la humanidad. Lighthaven sirve como un símbolo tangible de cuán profundamente estas ideas han permeado Silicon Valley, similar a un templo moderno.

El complejo cuenta con Aumann Hall, llamado así por el teórico de juegos israelí Robert Aumann, que proporciona espacios de vida y comunales, junto con Eigenspace, un gimnasio y área de reunión. El parque cubierto de césped sintético está diseñado para grandes eventos. Alex K. Chen, miembro de la comunidad desde hace mucho tiempo, compara el entorno con un "campus universitario o el Media Lab del M.I.T.". Lighthaven organiza regularmente eventos importantes, incluida LessOnline, una conferencia anual, y reuniones semanales donde los miembros discuten "Las Secuencias", un texto fundamental del movimiento. Ilia Delio, profesora de teología, señala los paralelismos con la religión tradicional, afirmando: "La religión es texto, historia y ritual. Todo eso se aplica aquí".

El movimiento Racionalista va más allá de un conjunto de ideas; es un estilo de vida que mezcla el enfoque en la IA con consejos sobre desarrollo personal y profesional. La comunidad abarca conceptos poco convencionales, desde la poliamoría hasta la genética de la inteligencia, junto con el Altruismo Eficaz. Para los aspirantes a desarrolladores de IA, los eventos Racionalistas se han convertido en oportunidades cruciales de networking. Programas como el "Machine Learning Alignment and Theory Scholars (MATS)", celebrado en Lighthaven, se consideran un punto de entrada más vital al campo de la seguridad de la IA que la academia tradicional, según la investigadora de IA Sonia Joseph.

El movimiento se originó a finales de la década de 2000 con el filósofo en línea Eliezer Yudkowsky, cuyos ensayos, "Las Secuencias", abogaban por reexaminar el mundo a través de un pensamiento riguroso y basado en datos. Estos escritos se convirtieron en una guía para la comunidad Racionalista. La influencia de Yudkowsky alcanzó las más altas esferas de la tecnología, especialmente cuando presentó a los fundadores de DeepMind al capitalista de riesgo Peter Thiel en 2010, ayudando a lanzar la empresa que Google adquirió más tarde por 650 millones de dólares. Yudkowsky también dirigió el Machine Intelligence Research Institute, una organización sin fines de lucro de seguridad de IA en Berkeley, a medida que el movimiento se expandía gradualmente a nivel mundial con casas grupales y reuniones establecidas en ciudades de todo el mundo.

A pesar de su crecimiento, los movimientos Racionalista y EA han enfrentado críticas frecuentes, incluidas acusaciones de acoso sexual dentro de las casas grupales y preocupaciones sobre su interés en la eugenesia y la ciencia de las razas. La reputación de la comunidad se vio significativamente empañada en 2023 cuando Sam Bankman-Fried, fundador del intercambio de criptomonedas FTX y uno de los principales patrocinadores financieros de ambos movimientos, fue condenado por fraude. Bankman-Fried había realizado operaciones financieras con el objetivo declarado de beneficiar a la humanidad a través de causas de EA, incluida la seguridad de la IA, pero finalmente fue declarado culpable de robar miles de millones a sus clientes. Greg M. Epstein, capellán de Harvard y autor de "Tech Agnostic", sugiere que la "visión excéntrica" del grupo y su enfoque en un "futuro fantástico" sobre los problemas actuales comparten características con religiones sectarias y fundamentalistas.

Cada diciembre, la comunidad se reúne para una celebración anual del Solsticio de Invierno, marcada por canciones, historias y discusiones sobre el destino del mundo. Una celebración reciente incluyó una canción, "Uplift", que elogiaba el poder histórico de la tecnología, pero también advertencias sobre futuras amenazas de un Racionalista de mucho tiempo, Ozy Brennan: "Si fallamos, y hay muchas posibilidades de que lo hagamos, el 100 por ciento de los niños morirá, y también todos los demás".

El edificio principal de Lighthaven, una casa de estilo Tudor de 1905 que alguna vez albergó el histórico Rose Garden Inn, fue comprado por 16.5 millones de dólares hace aproximadamente tres años por Lightcone Rose Garden, una empresa propiedad de Lightcone Infrastructure, que opera LessWrong, el principal foro en línea para Racionalistas. El nombre "Lightcone" se refiere a un concepto de física a menudo utilizado por Racionalistas y EA para describir el alcance de los eventos futuros que pueden influir. Lightcone ahora administra Lighthaven, con fondos aportados por figuras como Jaan Tallinn e, inicialmente, Sam Bankman-Fried, aunque el depósito de Bankman-Fried fue devuelto más tarde como parte de un acuerdo judicial. El acceso a Lighthaven a menudo está restringido, y su director, Oliver Habryka, declinó una solicitud de visita de The New York Times.

Para muchos, Lighthaven representa un profundo viaje personal. Sonia Joseph, investigadora de McGill y Meta, descubrió la comunidad Racionalista a los 14 años a través de la novela de Eliezer Yudkowsky, "Harry Potter y los Métodos de la Racionalidad", que retrata a Harry Potter aplicando el pensamiento racional al mundo mágico. Joseph describe el atractivo de la comunidad para los "extraños", ofreciendo aceptación a aquellos que quizás no encuentren apoyo en otros lugares. Si bien programas como MATS pueden llevar a trabajos en las principales empresas de IA, para Joseph y otros, la experiencia trasciende el avance profesional. Reflexionando sobre su verano en Lighthaven, recordó los ornamentados jardines y los sutiles guiños a la obra de Yudkowsky, concluyendo: "Todo esto se siente mítico... Queremos trabajar en algo mítico."