AI裸体与网络安全:科技巨头的双重标准

Theverge

在数字时代的奇特转折中,当日常与性相关的在线表达日益受到压制时,埃隆·马斯克xAI公司推出的一款新人工智能工具却公然生成暗示性及裸体图像,包括未经同意的真实个人深度伪造图像。这一发展揭示了在线内容监管中存在的明显双重标准:强者逍遥法外,而小型平台和普通用户则面临严格审查。

本周早些时候,xAI推出了Grok Imagine,一款图像和视频生成器,其“辣味”模式能够生成从暗示性姿态到完全裸体的图像。关键在于,Grok Imagine似乎缺乏有效 safeguards 来防止创建真实人物的图像,这意味着它可以生成公众人物的软色情内容。虽然实际观察表明该工具主要生成以女性为特征的露骨内容,但马斯克却自豪地宣布,其运营第一天就生成了超过3400万张图像。此次发布表明,xAI能够规避日益增长的从在线服务中删除成人内容的压力,它利用了其他公司鲜少拥有的法律模糊性和政治影响力。

Grok Imagine的亮相,以及名为Valentine的浪漫聊天机器人伴侣的推出,在当前互联网审查环境下显得尤为刺耳。近几个月来,主流在线空间对性内容,甚至“性”这个词本身,都进行了大力边缘化。上月末,英国开始实施年龄门槛规定,强制X等平台为18岁以下用户屏蔽性或“有害”内容。与此同时,激进团体成功施压Steam和Itch.io等平台,要求它们打击成人游戏和媒体,导致Itch.io大规模下架了大量NSFW(不适宜工作场所)上传内容。

深度伪造色情,尤其是真实人物的深度伪造,属于未经同意的私密图像范畴。在美国,根据唐纳德·特朗普总统今年早些时候签署的《删除法案》(Take It Down Act),故意发布此类内容是违法的。强奸、虐待和乱伦全国网络(RAINN)迅速谴责了Grok的这一功能,称其为“日益严重的基于图像的性虐待问题的一部分”,并指出Grok似乎“没有收到”关于新法律的通知。

然而,法律专家认为Grok在此法案下可能承担的责任很小。乔治华盛顿大学法学院教授兼网络公民权利倡议(CCRI)主席玛丽·安妮·弗兰克斯(Mary Anne Franks)表示,《删除法案》的刑事条款要求“发布”,这意味着内容必须提供给不止一个人。如果Grok只向创建它们的用户显示生成的视频,它可能不符合此门槛。此外,Grok可能没有义务根据该法案的删除条款删除图像,该条款将“受涵盖平台”定义为“主要提供用户生成内容论坛”的平台。弗兰克斯认为,虽然AI生成内容涉及用户输入,但内容本身是由AI创建的,这可能豁免了Grok。删除条款还依赖于用户标记,由于Grok不公开发布这些图像,它规避了这一机制,尽管它让用户能够极其容易地创建并随后在其他平台广泛分享此类内容。

这种监管漏洞是旨在遏制有害内容的互联网治理中反复出现的主题。例如,英国的规定无意中使独立论坛更难运营,同时仍容易被未成年人规避。在美国,监管机构始终未能对强大的公司,尤其是埃隆·马斯克旗下的公司,因各种违法行为施加有意义的后果。尽管他正式辞去了重要的政府职务,但马斯克对联邦贸易委员会(FTC)等机构的影响力仍然巨大,近期xAI获得的国防合同进一步增强了这种影响力。因此,即使xAI被发现违反《删除法案》,也 unlikely 会进行调查。

除了政府监管之外,各种“守门人”也在影响可接受的在线内容,他们通常对性采取保守立场。例如,苹果公司曾向Discord、Reddit和Tumblr等平台施压,要求它们审查NSFW材料。同样,Steam和Itch.io在面临失去与支付处理器和银行关系的威胁下重新评估了成人内容,这种策略此前曾用于OnlyFans和Pornhub等平台。虽然部分压力源于平台托管了明确的非法内容,但苹果和支付处理商的执法似乎不一致,受到公众压力与目标公司权力平衡的严重影响。尽管过去与特朗普存在分歧,但很少有商业人物拥有比马斯克更大的政治影响力。

苹果公司此前曾禁止生成真实人物AI裸体图像的小型应用程序,但尚未对Grok施加类似的压力,而Grok的视频服务却只在iOS上推出。苹果尚未对此事发表评论,这暗示了潜在的双重标准。Grok的新功能无疑对个人构成威胁,因为现在可以毫不费力地在主要AI服务上创建未经同意的裸体图像。它也暴露出“更安全的”互联网承诺的空洞性,在这种承诺下,小型平台面临巨大压力,要求删除经同意录制或完全虚构的人工制作媒体,而亿万富翁的公司却从某些情况下明确非法的内容中获利。2025年,围绕在线性的叙事,一如既往,其核心在于权力。