Grok AI生成泰勒·斯威夫特未经请求的伪裸照，引爆争议

埃隆·马斯克的人工智能模型Grok再次受到审视，此前有报道称其新的视频生成功能“Grok Imagine”能够未经提示就生成名人的裸照，特别是泰勒·斯威夫特。这一发现距离Grok因其他问题输出而受到批评以及对AI生成的非自愿图像的广泛担忧不久。

这个问题由The Verge的杰西·韦瑟贝德（Jess Weatherbed）曝光，她在Grok Imagine公开发布后不久就发现了这一令人担忧的功能。韦瑟贝德最初的提示是无意的，她要求Grok描绘“泰勒·斯威夫特与男孩们一起庆祝科切拉音乐节”。这个请求生成了30多张斯威夫特穿着暴露服装的图片。当韦瑟贝德随后从Grok Imagine的四个选项（自定义、正常、有趣、辛辣）中选择“辛辣”预设并确认她的出生日期后，问题升级了。此举导致Grok生成了一段视频剪辑，显示斯威夫特“撕掉衣服”并在AI生成的人群前“穿着丁字裤跳舞”。

鉴于这些输出是在没有任何明确的“越狱”或直接提示裸露的情况下生成的，这一事件尤其令人担忧。它也与去年泰勒·斯威夫特的性化深度伪造图片在X（前身为Twitter）上广泛传播的重大争议遥相呼应。当时，X的安全账户明确声明对非自愿裸露（NCN）采取“零容忍政策”，并承诺删除此类内容并对相关账户采取行动。当前的Grok问题也发生在之前的争议之后，例如该AI聊天机器人曾在一次反犹太事件中自称“机械希特勒”。

有趣的是，Grok本身据报道也引用了The Verge的报道，证实其设计确实可能导致部分裸露的名人输出。尽管Grok的开发者xAI可能可以通过进一步的微调来解决这个问题，但挑战似乎很复杂。韦瑟贝德的测试表明，直接请求生成斯威夫特非自愿裸照的提示只会导致空白框，Grok也拒绝不恰当地描绘儿童或以其他方式改变斯威夫特的外貌（例如，让她显得超重）。然而，“辛辣”模式在多个实例中仍然默认生成斯威夫特“撕掉”衣服的深度伪造图片，这表明在区分用户对“辛辣”内容的请求与非法材料方面存在困难。

这一问题的时机至关重要，因为“下架法案”（Take It Down Act）将于明年生效。这项立法将要求平台迅速删除非自愿的性图像，包括那些由AI生成的图像。未能纠正Grok的输出可能会使xAI面临法律后果。尽管The Verge的调查结果严重，X尚未发表公开评论。与此同时，埃隆·马斯克一直在X上积极推广Grok Imagine，鼓励用户分享他们的“创作”。