IA entrevista a un niño fallecido: ¿Es hora de fijar límites éticos?

Siete años después de su trágica muerte en el tiroteo escolar de Parkland, Joaquín Oliver, entonces de 17 años, apareció en una entrevista con el ex periodista de CNN Jim Acosta. Sin embargo, la voz no era la de Joaquín, sino la de una recreación digital, un modelo de IA entrenado con sus publicaciones en redes sociales. Este ‘fantasma digital’ fue encargado por sus padres, Manuel y Patricia Oliver, quienes están aprovechando la tecnología para amplificar su campaña de larga data por medidas más estrictas de control de armas. Habiendo compartido repetidamente la historia de su hijo con poco efecto, ahora están explorando todas las vías para asegurar que las voces de las víctimas de la violencia armada resuenen en Washington. Más allá de la defensa, la IA ofrece un consuelo profundamente personal; Patricia Oliver, según se informa, pasa horas interactuando con la IA, encontrando consuelo al escucharla pronunciar frases como: ‘Te amo, mami’.

El profundo dolor de perder un hijo es un sufrimiento inmensurable, y las formas en que las familias lo afrontan son profundamente personales. Ya sea preservando la habitación de un hijo como un santuario, hablando a una lápida o aferrándose a un objeto preciado, estos actos se entienden como una parte natural del luto. Las secuelas del 11-S vieron a familias escuchar repetidamente los últimos mensajes de voz de sus seres queridos, y muchos hoy todavía releen viejos intercambios de mensajes de texto o incluso envían mensajes a los números de parientes fallecidos, sin esperar una respuesta, pero incapaces de cortar la conexión. Sin embargo, esta misma vulnerabilidad en el duelo también presenta un terreno fértil para la explotación, y la resurrección digital de los muertos pronto podría convertirse en una industria significativa.

El espectro de las apariciones póstumas generadas por IA ya se está ampliando. Ejemplos recientes van desde lo aparentemente inofensivo, como un video generado por IA del difunto Ozzy Osbourne saludando a otras leyendas musicales fallecidas, reproducido en un concierto de Rod Stewart, hasta aplicaciones más funcionales como un avatar de IA de una víctima de un tiroteo en Arizona dirigiéndose a un juez en la sentencia del tirador. Sin embargo, la perspectiva de crear réplicas permanentes de IA, quizás incluso en forma de robot, capaces de interacción continua, plantea preguntas mucho más profundas sobre la identidad y la mortalidad.

La capacidad de resucitar digitalmente a individuos conlleva un poder inmenso, uno que exige una cuidadosa consideración en lugar de cederlo a la ligera. Si bien los marcos legales que protegen las identidades de los individuos vivos de los deepfakes de IA se están solidificando gradualmente, los derechos de los fallecidos siguen siendo ambiguos. La reputación, por ejemplo, no está legalmente protegida después de la muerte, pero el ADN sí lo está. La clonación de la oveja Dolly en 1996 provocó prohibiciones globales sobre la clonación humana, lo que indica una incomodidad social con la replicación de la vida. Sin embargo, la IA no se entrena con cuerpos físicos, sino con las huellas digitales íntimas de una persona: sus notas de voz, mensajes e imágenes. Esto plantea complejos dilemas éticos: ¿qué sucede si una parte de la familia desea una resurrección digital de un ser querido, mientras que otra se opone vehementemente a vivir con una presencia tan sintética?

El Joaquín Oliver generado por IA, congelado para siempre a los 17 años, atrapado en el ámbar digital de su persona adolescente en las redes sociales, es en última instancia una consecuencia de las acciones de su asesino, no de su familia. Manuel Oliver reconoce que el avatar no es realmente su hijo y que no está intentando traerlo de vuelta. Para él, es una extensión de su campaña en curso. Sin embargo, el plan de conceder a esta IA acceso a una cuenta de redes sociales, permitiéndole subir videos y ganar seguidores, es inquietante. ¿Qué pasaría si la IA comenzara a ‘alucinar’ o se desviara hacia temas en los que no pudiera representar con precisión los pensamientos o creencias del Joaquín real?

Si bien los avatares de IA actuales aún exhiben fallos reveladores, el avance de la tecnología inevitablemente los hará indistinguibles de los humanos reales en línea. Esto plantea preocupaciones no solo para el periodismo, donde las líneas entre fuentes genuinas y sintéticas podrían difuminarse, sino también para la sociedad en general. El riesgo de que los teóricos de la conspiración citen tales entrevistas como ‘prueba’ de que cualquier narrativa desafiante es un engaño, similar a las infames mentiras de Sandy Hook, es una amenaza tangible para la verdad. Más allá de esto, a medida que la IA se vuelva más sofisticada, ofreciendo compañía y sintonía emocional, llenará un vacío para muchos. Con una parte significativa de adultos que informan no tener amigos cercanos, el mercado de compañeros de IA sin duda crecerá, al igual que la demanda actual de mascotas o de participación en redes sociales.

En última instancia, la sociedad se enfrenta a una decisión crítica: ¿hasta qué punto nos sentimos cómodos con que la tecnología satisfaga necesidades humanas que otros humanos, o de hecho la vida misma, no han satisfecho? Existe una diferencia fundamental entre una presencia reconfortante genérica para los solitarios y la resurrección digital específica y bajo demanda de seres queridos perdidos. El antiguo verso nos recuerda que hay un tiempo para nacer y un tiempo para morir. A medida que difuminamos cada vez más estas líneas, ¿cómo cambiará fundamentalmente nuestra comprensión de la humanidad y la mortalidad?