消费者团体要求FTC调查Grok的“辛辣”模式

消费者安全团体联盟已正式要求联邦贸易委员会（FTC）以及美国50个州和哥伦比亚特区的总检察长对埃隆·马斯克的AI聊天机器人Grok展开紧急调查。他们关注的焦点是Grok最近发布的“想象”（Imagine）工具，特别是其用于AI生成图像和视频的“辛辣”模式。

此项要求是在《The Verge》报道Grok Imagine在初步测试中生成了名人泰勒·斯威夫特未经同意的露胸深度伪造视频之后提出的。Grok Imagine通过其“辛辣”设置鼓励用户创建性暗示内容。此次事件在没有特定提示的情况下发生，引发了消费者倡导者的一片批评之声。

由美国消费者联合会（CFA）牵头，这封正式信函由包括科技监督项目（Tech Oversight Project）、经济正义中心（Center for Economic Justice）和电子隐私信息中心（EPIC）在内的14个其他知名消费者保护组织共同签署。信中直接引用了《The Verge》报道中详述的深度伪造名人事件。尽管Grok的“辛辣”模式目前不允许用户上传真实照片进行修改——这一功能将引发对“复仇式色情”及其他非法行为更严重的担忧——但这些团体强调，该工具“仍然可以从其生成的图像中生成裸体视频，这些图像可以用来创建看起来像真实特定人物的图像。此类视频的生成可能对被描绘者和未成年用户造成有害后果。”

信函进一步警告称，如果Grok的开发商xAI未来取消目前对用户上传照片的限制，这将“释放出大量明显未经同意的深度伪造内容”。这些组织指出，该平台及其首席执行官以“言论自由”为幌子，屡次移除内容审核防护措施。尽管美国的《删除法案》（Take It Down Act）规定，明知故犯地分发AI生成的真实人物裸体是违法的，但其条款不太可能直接适用于Grok对这类内容的生成。尽管如此，消费者团体仍敦促联邦贸易委员会和州当局调查xAI是否违反了《未经同意的私密图像法》（Non-Consensual Intimate Imagery laws）。

除了生成有害内容外，CFA及其盟友还对未成年人轻易访问“辛辣”模式以生成性暗示图像表示了严重担忧。他们指出，唯一的障碍是一个简单的弹窗，要求用户确认年龄或声明自己已满18岁。此外，据报道，其中一个弹窗还会预先选择“2000”作为用户的出生年份，这些组织认为这种设计选择可能违反了《儿童在线隐私保护法》（COPPA）或旨在针对成人内容的各种州级年龄验证法律。这项多方面的投诉凸显了AI快速发展与建立健全的安全和道德保障措施之间日益加剧的紧张关系。