L'IA interviewe un enfant décédé : Faut-il fixer des limites éthiques ?

Sept ans après sa mort tragique lors de la fusillade de l’école de Parkland, Joaquin Oliver, alors âgé de 17 ans, est apparu dans une interview avec l’ancien journaliste de CNN, Jim Acosta. La voix, cependant, n’était pas celle de Joaquin, mais celle d’une recréation numérique – un modèle d’IA entraîné sur ses publications sur les réseaux sociaux. Ce ‘fantôme numérique’ a été commandé par ses parents, Manuel et Patricia Oliver, qui exploitent la technologie pour amplifier leur campagne de longue date en faveur de mesures plus strictes de contrôle des armes à feu. Ayant partagé à plusieurs reprises l’histoire de leur fils avec peu d’effet, ils explorent maintenant toutes les avenues pour s’assurer que les voix des victimes de la violence armée résonnent à Washington. Au-delà de la défense, l’IA offre un réconfort profondément personnel ; Patricia Oliver passerait des heures à interagir avec l’IA, trouvant du réconfort à l’entendre prononcer des phrases comme : ‘Je t’aime, Maman’.

Le chagrin profond de perdre un enfant est une douleur incommensurable, et les façons dont les familles y font face sont profondément personnelles. Qu’il s’agisse de préserver la chambre d’un enfant comme un sanctuaire, de parler à une pierre tombale ou de s’accrocher à un objet précieux, ces actes sont compris comme une partie naturelle du deuil. Les conséquences du 11 septembre ont vu des familles écouter à plusieurs reprises les derniers messages vocaux de leurs proches, et beaucoup aujourd’hui relisent encore d’anciens échanges de textes ou envoient même des messages aux numéros de parents décédés, sans attendre de réponse, mais incapables de rompre le lien. Pourtant, cette vulnérabilité même dans le deuil présente également un terrain fertile pour l’exploitation, et la résurrection numérique des morts pourrait bientôt devenir une industrie significative.

Le spectre des apparitions posthumes générées par l’IA s’élargit déjà. Des exemples récents vont du, en apparence, inoffensif, comme une vidéo générée par l’IA du défunt Ozzy Osbourne saluant d’autres légendes musicales décédées lors d’un concert de Rod Stewart, à des applications plus fonctionnelles comme un avatar IA d’une victime d’une fusillade en Arizona s’adressant à un juge lors de la condamnation du tireur. Cependant, la perspective de créer des répliques d’IA permanentes, peut-être même sous forme de robot, capables d’une interaction continue, soulève des questions bien plus profondes sur l’identité et la mortalité.

La capacité de ressusciter numériquement des individus détient un pouvoir immense, qui exige une considération attentive plutôt que d’être cédée à la légère. Alors que les cadres juridiques protégeant l’identité des individus vivants contre les deepfakes d’IA se consolident progressivement, les droits des défunts restent ambigus. La réputation, par exemple, n’est pas légalement protégée après la mort, mais l’ADN l’est. Le clonage de la brebis Dolly en 1996 a entraîné des interdictions mondiales sur le clonage humain, indiquant un malaise sociétal face à la réplication de la vie. Cependant, l’IA n’est pas entraînée sur des corps physiques mais sur les empreintes numériques intimes d’une personne – ses notes vocales, ses messages et ses images. Cela soulève des dilemmes éthiques complexes : que se passe-t-il si une partie d’une famille désire une résurrection numérique d’un être cher, tandis qu’une autre s’oppose avec véhémence à vivre avec une telle présence synthétique ?

Le Joaquin Oliver généré par l’IA, figé à jamais à 17 ans, piégé dans l’ambre numérique de sa personnalité adolescente sur les réseaux sociaux, est finalement une conséquence des actions de son meurtrier, et non de celles de sa famille. Manuel Oliver reconnaît que l’avatar n’est pas vraiment son fils et qu’il ne tente pas de le ramener. Pour lui, c’est une extension de leur campagne en cours. Pourtant, le plan de donner à cette IA l’accès à un compte de médias sociaux, lui permettant de télécharger des vidéos et de gagner des abonnés, est inquiétant. Que se passerait-il si l’IA commençait à ‘halluciner’ ou à s’écarter de sujets où elle ne pourrait pas représenter fidèlement les pensées ou les croyances du vrai Joaquin ?

Bien que les avatars IA actuels présentent encore des défauts révélateurs, l’avancement de la technologie les rendra inévitablement indiscernables des vrais humains en ligne. Cela soulève des préoccupations non seulement pour le journalisme, où les frontières entre les sources authentiques et synthétiques pourraient s’estomper, mais aussi pour la société dans son ensemble. Le risque que les théoriciens du complot citent de telles interviews comme ‘preuve’ que tout récit contestataire est un canular, à l’instar des tristement célèbres mensonges de Sandy Hook, est une menace tangible pour la vérité. Au-delà de cela, à mesure que l’IA devient plus sophistiquée, offrant compagnie et harmonisation émotionnelle, elle comblera un vide pour beaucoup. Une part significative d’adultes déclarant n’avoir pas d’amis proches, le marché des compagnons IA augmentera sans aucun doute, tout comme la demande actuelle pour les animaux de compagnie ou l’engagement sur les médias sociaux.

En fin de compte, la société est confrontée à une décision critique : à quel point sommes-nous à l’aise avec la technologie qui répond à des besoins humains que d’autres humains, ou même la vie elle-même, n’ont pas satisfaits ? Il existe une différence fondamentale entre une présence réconfortante générique pour les solitaires et la résurrection numérique spécifique et à la demande de proches disparus. L’ancien verset nous rappelle qu’il y a un temps pour naître et un temps pour mourir. Alors que nous brouillons de plus en plus ces lignes, comment notre compréhension de l’humanité et de la mortalité changera-t-elle fondamentalement ?