AI采访帕克兰遇难者引爆伦理争议

Gizmodo

一场被宣传为“独一无二的采访”的节目,却在媒体界引发了一场激烈的辩论,可能标志着人工智能时代一个令人不安的新篇章。前CNN主播、现主持Substack节目的吉姆·阿科斯塔(Jim Acosta)在对华金·奥利弗(Joaquin Oliver)的AI生成形象进行电视对话后,发现自己处于这场争议的中心。华金·奥利弗是一名17岁的少年,在2018年佛罗里达州帕克兰市马乔里·斯通曼·道格拉斯高中枪击案中不幸遇难。

这次采访是应华金父母的明确请求播出的,旨在以一种深刻的方式缅怀他们的儿子,并放大他反对枪支暴力的强烈信息。然而,该片段迅速招致了来自不同政治立场的观众的广泛谴责,他们斥责其为剥削性、情感操纵,并为新闻业树立了一个危险的先例。

阿科斯塔于8月4日在X(前身为Twitter)上首次预告了该片段,邀请观众收看一档节目,内容是“对华金·奥利弗的采访。他于2018年在帕克兰校园枪击案中去世。但他的父母创造了一个儿子的AI版本,以传递关于枪支暴力的强大信息。”在视频片段中,阿科斯塔向AI替身提出了一个问题:“华金,我想知道你对枪支暴力的解决方案会是什么?”AI给出了一个全面的回答,建议“结合更严格的枪支管制法、心理健康支持和社区参与”,强调需要“对话和联系的安全空间”以及“建立一种善良和理解的文化”。令人惊讶的是,替身随后反问阿科斯塔的看法,他回答说:“我觉得那是个好主意。”

这条宣传推文迅速获得了近400万次观看,但也引发了如潮的批评。用户指责阿科斯塔逾越了伦理界限,利用已故儿童的数字形象来推进政治议程。评论从“吉姆·阿科斯塔又创新低……采访一个死去的孩子的AI版本,只为了推动枪支管制!!!”到“搞什么鬼?这太病态了”和“这是我这辈子见过最奇怪的事情之一。”反弹如此强烈,以至于阿科斯塔最终禁用了该推文的回复功能。

即使在媒体行业内部,该片段也受到了严厉的指责。记者格伦·格林沃尔德(Glenn Greenwald)强调了这次采访引发的“跨意识形态的厌恶”,指出对AI“超越人性、低劣的媒体剥削以及制造虚假视频的能力”的担忧。这些批评凸显了关于信任、伦理以及使用AI代表逝者发言的深远影响的基本问题。批评者担心此类应用可能为前所未有的操纵铺平道路,设想政治团体可能创建胎儿的AI替身来反对堕胎,或者公司可能生成名人的死后代言。核心问题围绕着社会将如何驾驭媒体和倡导中生成式AI的伦理雷区。

面对日益增长的愤怒,阿科斯塔为自己的决定辩护,强调这个概念直接源于华金的父母曼努埃尔(Manuel)和帕特里夏·奥利弗(Patricia Oliver)。在随后的推文中,阿科斯塔写道:“华金,昵称瓜克(Guac),今天应该25岁了。他的父亲找到我来做这个故事……为了让他的儿子的记忆延续下去。”他链接了一个视频,视频中曼努埃尔·奥利弗激动地解释道:“我是曼努埃尔·奥利弗。我是华金·奥利弗的父亲……我们请我们的朋友吉姆·阿科斯塔来采访我们的儿子,因为现在,多亏了AI,我们能让他回来。这是我们的主意。”奥利弗继续断言:“我们觉得华金有很多话要说,只要我们有一个选择能让你们和所有人听到,我们就会用它。”阿科斯塔敦促观众观看这位父亲的视频,暗示父母的意愿提供了关键的背景,值得尊重。

无论父母的真挚意图如何,这次采访都引发了一场更广泛的文化反思。对一些人来说,它代表了一种感人但非传统的科技应用,以纪念失去的亲人。然而,对许多其他人来说,它意味着现实与模拟之间令人深感不安的模糊,冒着将逝者非人化并将个人悲剧转化为算法渲染的行动主义的风险。这一事件迫使人们批判性地审视,这究竟标志着数字纪念的新常态,还是一个决定性的时刻,迫使社会为AI的使用建立明确的伦理界限。