亚马逊AI假书泛滥,专家身份被盗用,信任危机加剧

Decoder

亚马逊上出现了一种令人不安的新趋势:数十本伪造的烹饪书和健康指南正在以著名医生和科学家埃里克·托波尔博士的显赫姓名和形象进行销售。托波尔博士已公开谴责这些列表为“彻头彻尾的欺诈”,并声称这些书籍完全是未经他同意制造和出版的。据报道,他多次尝试向亚马逊举报这些欺诈性ISBN码,但均未取得具体结果,这家电子商务巨头的客户服务仅以通用链接回应。

这种欺骗行为的影响已开始被消费者感受到。一位买家讲述了购买一本书的经历,当时他确信托波尔博士名字的信誉,结果却发现内容令人大失所望。这一事件凸显了消费者在网上购物时依赖信任名称所面临的日益增长的脆弱性。

尽管AI生成的假书问题对亚马逊庞大的市场来说并非全新,但大量非法使用托波尔博士身份的书籍凸显了问题规模的不断升级。ChatGPT等先进生成式AI工具的广泛普及,加上自助出版平台的便利性,为诈骗者创造了肥沃的土壤。这些工具使恶意行为者能够向市场大量投放模仿知名人物风格、品牌和感知权威的书籍,使得平台有效监管内容变得越来越困难。

亚马逊已通过实施多项政策变更来应对这场日益严重的危机。该公司已将自助出版商每天发布书籍的数量限制为最多三本,现在还要求作者在其提交的作品中声明是否使用了AI生成的文本、图像或翻译。然而,关于AI生成的这一关键信息目前并未向客户披露,导致他们对所购买内容的合成性质一无所知。此外,亚马逊还收紧了关于摘要和习作的规定,这些内容经常抄袭原创作品的实质性部分。尽管采取了这些措施,托波尔博士的持续困境仍然是一个严峻的提醒:AI生成的欺诈性书籍继续规避安全措施,有效地劫持了受信任专家来之不易的声誉。

这种特殊的数字欺骗形式是AI驱动的更广泛欺诈活动的一部分。生成式AI正被越来越多地大规模部署,通过欺骗性手段产生广告收入,包括虚假名人代言和高度个性化的网络钓鱼活动。除了商业欺诈,该技术还被滥用于创建关于政治争议话题的煽动性合成图像或文本,以及编造完整的媒体叙事,从而助长了更广泛的虚假信息和不信任。托波尔博士在亚马逊上身份被劫持的案例清楚地说明了快速发展的AI能力如何在数字时代挑战知识产权、消费者信任和平台问责制的基本原则。