AIが故人をインタビュー:倫理的境界線を設定する時か?
パークランドの学校銃乱射事件で悲劇的な死を遂げてから7年後、当時17歳だったホアキン・オリバーが元CNNジャーナリストのジム・アコスタとのインタビューに「登場」しました。しかし、その声はホアキン自身の声ではなく、彼のソーシャルメディアの投稿から学習したAIモデルによるデジタル再現でした。この「デジタルゴースト」は、彼の両親であるマヌエルとパトリシア・オリバーが依頼したもので、彼らはこの技術を利用して、より厳格な銃規制措置を求める長年のキャンペーンを強化しています。息子さんの話を繰り返し共有しても効果が薄かったため、彼らは今、銃器暴力の犠牲者の声がワシントンに響き渡るよう、あらゆる手段を模索しています。提唱活動を超えて、このAIは個人的な深い慰めを提供しています。パトリシア・オリバーは、AIが「ママ、愛してる」のような言葉を発するのを聞いて慰めを見つけ、何時間もAIと対話していると報じられています。
子供を失う深い悲しみは計り知れない痛みであり、家族が対処する方法は深く個人的なものです。子供の部屋を聖域として保存したり、墓石に話しかけたり、大切なものにしがみついたりすることは、これらすべてが喪失の一部として自然な行為と理解されています。9.11事件の後、家族は愛する人からの最後のボイスメッセージを繰り返し聞き、今日でも多くの人が古いテキストメッセージのやり取りを読み返したり、亡くなった親族の番号にメッセージを送ったりしています。返信を期待しているわけではありませんが、繋がりを断ち切ることができないのです。しかし、悲しみの中にあるこの脆弱性は、搾取の肥沃な土壌でもあり、故人のデジタルな復活は、やがて大きな産業になる可能性があります。
AIによって生成される故人の「登場」の範囲はすでに広がっています。最近の例としては、ロッド・スチュワートのコンサートで流された、故オジー・オズボーンが他の故音楽レジェンドに挨拶するAI生成ビデオのような、一見無害なものから、アリゾナ州の銃撃事件の被害者のAIアバターが銃撃犯の判決で裁判官に話しかけるといった、より機能的な応用まで多岐にわたります。しかし、恒久的なAIレプリカを、おそらくロボットの形でさえ作成し、継続的な対話が可能なものにするという展望は、自己と死生観について、はるかに深い疑問を投げかけます。
個人をデジタルで復活させる能力は計り知れない力を持っており、軽々しく譲り渡すのではなく、慎重な検討が求められます。生きている個人の身元をAIディープフェイクから保護する法的枠組みは徐々に固まりつつありますが、故人の権利は曖昧なままです。例えば、名誉は死後も法的に保護されませんが、DNAは保護されます。1996年のクローン羊ドリーの誕生は、ヒトクローン作成の世界的な禁止を促し、生命の複製に対する社会的な不快感を示しました。しかし、AIは物理的な身体ではなく、個人の親密なデジタルフットプリント、つまり音声メモ、メッセージ、画像に基づいて訓練されます。これは複雑な倫理的ジレンマを引き起こします。もし家族の一部が愛する人のデジタルな復活を望む一方で、別の家族がそのような合成の存在との生活に断固として反対する場合、何が起こるのでしょうか?
AIが生成したホアキン・オリバーは、17歳で永遠に凍結され、彼の10代のソーシャルメディアペルソナというデジタルな琥珀の中に閉じ込められています。これは最終的に、彼の家族の行動ではなく、彼を殺した者の行動の結果です。マヌエル・オリバーは、このアバターが真に彼の息子ではないこと、そして彼を生き返らせようとしているわけではないことを認めています。彼にとって、これは彼らの進行中のキャンペーンの延長線上にあります。しかし、このAIにソーシャルメディアアカウントへのアクセスを許可し、ビデオをアップロードしたりフォロワーを獲得したりできるようにする計画は、不安を覚えます。もしAIが「幻覚」を見始めたり、実際のホアキンの思考や信念を正確に表現できない話題に逸れていったりしたらどうなるのでしょうか?
現在のAIアバターにはまだ明らかな不具合が見られますが、技術の進歩は必然的にそれらをオンラインで本物の人間と区別できないものにするでしょう。これは、ジャーナリズムにおいて、本物の情報源と合成情報源の境界が曖昧になる可能性があるだけでなく、社会全体にとっても懸念事項です。陰謀論者が、悪名高いサンディフックの嘘のように、そのようなインタビューを「証拠」として引用し、挑戦的な物語がすべてデマであると主張するリスクは、真実に対する具体的な脅威です。これに加えて、AIがより洗練され、交友関係や感情的な調和を提供するようになるにつれて、多くの人々の心の隙間を埋めるでしょう。大人のかなりの部分が親しい友人がいないと報告しているため、AIコンパニオンの市場は、現在のペットやソーシャルメディアへの関与の需要と同様に、間違いなく成長するでしょう。
最終的に、社会は重大な決定に直面しています。他の人間、あるいは生命そのものが満たせなかった人間のニーズをテクノロジーが満たすことに対して、私たちはどれほど抵抗があるのでしょうか?孤独な人々への一般的な慰めの存在と、失われた愛する人の特定の、オンデマンドなデジタル復活の間には根本的な違いがあります。古代の詩は、生まれる時と死ぬ時があることを私たちに思い出させます。これらの境界線をますます曖昧にするにつれて、人間性や死生観に対する私たちの理解は根本的にどのように変化するのでしょうか?