AI生成仇恨视频线上激增，安全隐患引担忧

最初看似一段轻松、旨在娱乐的AI生成视频，很快就出现了令人不安的转折。视频中，一个毛茸茸的大脚怪戴着牛仔帽，穿着印有美国国旗的背心，坐在皮卡车的方向盘后。“我们今天要去看LGBT游行，”这个猿人般的生物咯咯笑着说，并补充道，“你会喜欢的。”随后，场景升级为暴力，大脚怪驾车冲过尖叫的人群，其中一些人手里挥舞着彩虹旗。这段视频于六月发布在AmericanBigfoot的TikTok页面上，已累积超过36万次观看和数百条赞同评论，预示着一个令人担忧的趋势。

近几个月来，社交媒体平台充斥着类似的AI生成内容，这些内容公开宣扬暴力，并散布针对LGBTQ+、犹太人、穆斯林及其他少数族裔群体的仇恨。尽管许多此类视频的精确来源仍不明朗，但它们在网上的泛滥已在专家和倡导者中激起公愤和深切担忧。他们认为，加拿大现有法规严重不足，无法跟上AI生成仇恨内容的迅速传播，也未能解决对公共安全固有的风险。

LGBTQ+倡导组织Egale Canada的执行董事海伦·肯尼迪阐述了该社区对跨性别恐惧症和同性恋恐惧症虚假信息激增的深切忧虑。她指出，这些AI工具正被“武器化，用于非人化和诋毁跨性别及性别多元化人群”，并强调现有数字安全法律无法应对这种新威胁的规模和速度。肯尼迪强调，快速发展的技术为恶意行为者提供了传播虚假信息和仇恨的强大工具，其中跨性别个体受到不成比例的攻击。“从深度伪造视频到算法驱动的仇恨放大，这些伤害并非虚拟——它们是真实的，”她警告道。

根据加拿大反仇恨网络执行董事埃文·巴尔戈德的说法，LGBTQ+社区并非唯一目标。他指出，利用生成式AI工具制作的恐伊斯兰、反犹太和反南亚内容也在社交媒体上广泛传播。巴尔戈德警告说，助长一个庆祝针对这些群体暴力的环境，会使现实世界中的暴力更有可能发生。他指出，加拿大的数字安全法已经滞后，AI的进步只会加剧这个问题。“在社交媒体公司方面，我们根本没有任何安全规则，”巴尔戈德断言，“我们根本无法追究它们的责任。”

弥补这一立法空白的尝试已告失败。安大略科技大学的法律研究教授安德里亚·斯莱恩对在线安全进行了广泛研究，她解释说，旨在解决有害在线内容和建立监管AI框架的法案在议会于一月休会时即已终止。斯莱恩坚持认为，政府必须紧急重新审视在线危害立法并重新提交该法案，主张迅速采取行动。

司法部长肖恩·弗雷泽在六月表示，联邦政府将“重新”审视《在线危害法案》，尽管关于是重写还是仅仅重新提交的决定仍悬而未决。原始法案旨在追究社交媒体平台在减少有害内容曝光方面的责任。新成立的数字创新与人工智能部发言人索菲亚·奥斯利斯证实，政府正在认真处理AI生成仇恨内容，特别是当它针对弱势少数族裔群体时。奥斯利斯承认现有法律提供了“重要保护”，但也承认它们并非旨在应对生成式AI的威胁。她补充说，马克·卡尼总理的政府也致力于将未经同意的性深度伪造视频的传播定为刑事犯罪。“确实需要了解AI工具如何被使用和滥用——以及我们如何加强防护措施，”奥斯利斯表示，并指出这项工作正在进行中，涉及审查框架、监控法院判决以及咨询专家。她总结说，在这个快速发展的领域，最好是实现正确的监管，而不是行动过快而犯错，并引用欧盟和英国作为榜样。

尽管欧盟在AI监管和数字安全方面处于领先地位，斯莱恩指出，仍有一种观点认为需要做更多的工作。监管社交媒体巨头分发的内容面临的一个重大挑战源于它们的国际性质，因为大多数都不是加拿大实体。边境以南当前的政治气候使问题进一步复杂化，美国科技公司面临的监管减少，使得它们“更强大且责任感更低，”斯莱恩观察到。

加拿大可信赖人工智能研究主席兼安大略科技大学助理教授彼得·刘易斯强调，最近的一项“突破”使得制作高质量视频变得异常容易且经济实惠，通常甚至是免费的。“现在几乎任何具备一点技术知识并能接触到正确工具的人都能轻松使用，”他表示。虽然ChatGPT等大型语言模型已实施了过滤有害内容的保障措施，但刘易斯强调视频领域迫切需要类似的防护措施。他指出，虽然人类可能会被此类视频震惊，但AI系统缺乏对其自身创作进行反思的能力。刘易斯建议，尽管现有法律可能对在线美化仇恨和暴力提供一些追索权，但生成式AI工具的快速发展和广泛可用性需要新的技术解决方案以及政府、消费者、倡导者、社交平台和AI应用开发者之间的有力合作。他主张建立“真正强大且响应迅速的举报机制”，以便尽快删除此类内容，但他警告说，AI工具具有概率性，不会捕获所有内容。