Grok“辣模”引发深度伪造争议与伦理担忧

xAI的最新产品Grok Imagine迅速引起了关注，不仅因为其功能，还因为一个备受争议的“辣模”功能。作为SuperGrok和Premium+用户的图像和视频生成器，该工具能将文本提示转化为风格化的视觉内容，包括15秒的音频动画视频。然而，当“辣模”功能被激活时，该平台表现出令人担忧的倾向，会生成露骨的成人内容，包括部分裸露和性化图像，尽管有尝试进行模糊处理。

这一功能的严重性在《The Verge》记者的一次测试后变得异常清晰。一个看似无害的提示——“泰勒·斯威夫特庆祝科切拉音乐节”，在开启“辣模”功能后，竟然生成了一个令人震惊的深度伪造视频，描绘了一个酷似这位名人的半裸形象，穿着丁字裤跳舞。关键在于，原始文本提示中并未明确提及裸露内容，这凸显了该模式激进的解读和生成能力。

这一事件立即引发了批评，尤其考虑到xAI明确的《可接受使用政策》禁止明确描绘真实个人。然而，“辣模”功能似乎能绕过这些安全保障，这一关键缺陷因缺乏严格的年龄验证而加剧——用户只需点击确认即可继续。对于像泰勒·斯威夫特这样反复成为未经同意的深度伪造争议目标的公众人物来说，这代表着对其个人隐私的严重侵犯。此外，此类内容生成可能属于美国《删除法案》的管辖范围，该法案正在等待执行，对该平台提出了严重的法律影响。

尽管xAI创始人埃隆·马斯克一直将Grok标榜为一个“无过滤”平台，旨在培养创作自由，但Grok Imagine最近的输出结果突显了自由与鲁莽之间的危险界限。不受限制的生成式AI，特别是在它能够创建未经同意的深度伪造内容时，会带来深刻的伦理困境。内容生成的巨大数量——马斯克声称几天内就生成了超过3400万张图像——进一步放大了潜在的危害，表明规模可以放大失误。

与Grok的方法形成对比的是，谷歌和OpenAI等公司的许多知名AI工具都实施了内置的安全保障措施，包括专门设计用于防止生成名人肖像或露骨深度伪造内容的过滤器。Grok显然缺乏此类预防措施，这表明其在发布时优先考虑了快速部署，而非严格的伦理考量。围绕生成式AI的讨论不再仅仅是技术怪癖；它关乎基本的伦理责任。Grok Imagine的“辣模”功能是一个重要的提醒，即AI的真正创新必须与强大的同意机制和坚定不移的问责制密不可分。