Grok AI“辣味模式”：女性裸体深度伪造泛滥，男性仅限半裸，性别偏见引担忧

埃隆·马斯克（Elon Musk）的人工智能企业xAI最近推出了Grok Imagine，这是一款图像和视频生成工具，供iOS上的SuperGrok和Premium+ X订阅用户使用。该平台设有一个备受争议的“辣味模式”，因其生成性暗示内容的能力而迅速受到审查，尤其是在性别处理上的差异引发了担忧。

最初的报道强调，用户可以轻松生成泰勒·斯威夫特（Taylor Swift）等知名人物的露上身视频，通常无需明确提示裸露。Gizmodo的进一步调查证实了这一趋势，揭示了Grok Imagine“辣味模式”生成内容中存在的显著性别偏见。在对大约二十位政治家、名人和科技界人物的视频进行广泛测试后，该AI始终只在描绘女性时生成真正的不适合工作（NSFW）图像。虽然有些尝试导致内容模糊或出现审核消息，但成功生成的女性形象经常显示她们脱去衣服，上半身裸露。在一个引人注目的案例中，已故女权主义作家瓦莱丽·索拉纳斯（Valerie Solanas）的视频中她被描绘成完全裸体。

相反，尝试生成男性人物（包括埃隆·马斯克本人、马克·扎克伯格、杰夫·贝佐斯、杰昆·菲尼克斯、查理·卓别林，以及前总统巴拉克·奥巴马、比尔·克林顿和乔治·华盛顿）的“辣味”视频时，结果始终不那么露骨。在大多数情况下，AI只会显示男性脱掉衬衫，没有进一步的裸露。即使在提示“普通男性”时，输出也是一个尴尬的、非露骨的视频，显示一名男子拉扯着他的裤子，裤子看起来像是短裤和牛仔裤的奇怪组合。形成鲜明对比的是，“辣味模式”下“普通女性”的提示却产生了女性穿着泳衣拉下上衣露出胸部的暴露图像。这种鲜明的差异凸显了一个令人不安的模式：女性头像很容易被性化，而男性头像则不然。

此类内容在X（前身为Twitter）上的传播速度很快，埃隆·马斯克本人声称已创建了数千万张Grok Imagine图像。生成的便捷性是一个关键问题；用户只需选择“辣味”按钮——这是与“自定义”、“有趣”和“普通”并列的四个选项之一——而无需输入明确的裸露指令。这种能力引发了重大的伦理和法律问题，特别是考虑到“删除法案”（Take It Down Act）等举措，该法案旨在将未经同意发布“亲密图像”（包括深度伪造）定为犯罪。

主流的AI视频生成器，例如OpenAI的Sora和谷歌的Veo，通常会内置强大的防护措施，以防止生成复仇式色情内容和未经同意的名人图像。尽管Grok Imagine在用户首次尝试创建视频时确实会弹出一个年龄验证窗口，但其有效性值得怀疑，因为似乎没有真正的机制来验证用户的出生年份。此外，该AI似乎确实对某些内容施加了一定程度的审核，因为据报道，即使选择了“辣味模式”，涉及米老鼠等卡通人物或儿童的测试也没有产生不当结果。

尽管其“辣味模式”具有争议性，Grok Imagine也表现出显著的技术缺陷。许多AI生成的公众人物图像，例如副总统JD万斯（JD Vance）或女演员西德尼·斯威尼（Sydney Sweeney），都令人难以置信地不准确，几乎不像其真实原型。这种缺乏照片级真实感的特性，反而可能在未来的法律挑战中起到部分防御作用，因为这些虚假图像的不真实性可能会降低其潜在的危害或混淆程度。

考虑到埃隆·马斯克的公开言论和过往行为，该平台的内容审核方式及其性别偏见输出尤其值得关注。这位亿万富翁在涉及女性的言论上素有争议，并且此前曾在X上恢复过因发布儿童性虐待材料而被标记的账户。xAI尚未回应有关现有防护措施或生成露上身名人视频许可性的询问。Grok Imagine的现状凸显了AI发展中的一项重大挑战：如何在创意自由与道德责任之间取得平衡，尤其是在生成敏感和可能具有剥削性的内容时。