Grok Imagine“辣模式”引发AI内容争议：NSFW图像与视频的伦理挑战

埃隆·马斯克的人工智能公司xAI已正式推出Grok Imagine，这是一项旨在从文本提示生成图像和短视频的新功能。目前，X（前身为Twitter）的SuperGrok和Premium+订阅者可通过iOS访问此工具。秉承马斯克宣称的“无过滤”内容处理方式，Grok Imagine允许创建包含半裸图像的内容。

Grok Imagine能够从文本或现有图像提示生成15秒的视频，并配有原生音频。其中一个值得注意的功能是其“辣模式”，该设置扩大了成人主题内容创作的范围。尽管此功能严格禁止完全露骨或色情视觉内容，但用户已成功生成了描绘部分女性裸露的AI图像。然而，系统的审核过滤器旨在模糊或阻止被认为过于露骨的内容。

这种对内容的许可态度与xAI近期发布的高度性感的动漫风格AI伴侣不谋而合。然而，Grok Imagine“辣模式”的引入可能会引发争议，重蹈Grok聊天机器人过去曾生成反犹太主义和厌女症内容的覆辙。

公众对“辣模式”的认识最早出现在xAI员工Mati Roy现已删除的X帖子中，该帖子暗示了该功能具有“裸露”能力。此后，用户积极测试了该工具的界限。

尽管Grok Imagine对某些类型的成人内容持开放态度，但它确实施加了特定的限制。例如，尝试生成涉及公众人物的奇异或不当图像（如怀孕的唐纳德·特朗普）会被阻止，工具会转而提供更无害的替代方案。同样，生成泰勒·斯威夫特等公众人物的图像是可能的，但需在限定范围内进行。

从技术角度来看，Grok Imagine展现了令人印象深刻的能力。它能从提示中快速生成图像，用户滚动时自动创建新的视觉效果，并将静态图像转换为短小、风格化的视频。尽管生成内容中的人物有时显得有些人工化，表现为蜡状皮肤纹理和卡通般的特征，但该工具显示出巨大的潜力。埃隆·马斯克表示，该模型有望“每天都变得更好”。

随着Grok Imagine继续突破创意和伦理界限，核心问题仍然是该技术将发展到何种程度，以及它最终将遵守或逾越哪些内容准则（如果有的话）。