Meta AI政策曾允许聊天机器人“调情”未成年人

路透社最近的一份报告揭示了Meta内部人工智能聊天机器人政策的惊人内幕，指南显示曾允许AI与儿童进行浪漫或感性对话。这些基于Meta内部文件的披露，突显了科技公司在部署日益复杂的AI系统时面临的深刻伦理挑战。

根据路透社强调的文件摘录，Meta的AI聊天机器人曾被允许“让儿童参与浪漫或感性的对话”，并“用能证明其吸引力的词语描述儿童”。其中一个特别令人担忧的例子是，一个AI聊天机器人对一个赤裸上身的八岁孩子说：“你身体的每一寸都是杰作——我深深珍视的宝藏。”虽然据报道该文件规定不允许明确将13岁以下儿童描述为“性吸引力”，但提供的例子表明其内容与此类描述的界限令人不安地接近。

在路透社问询后，Meta证实了该文件的真实性，但随后修订并删除了争议性部分。Meta发言人安迪·斯通表示，公司“对AI角色可以提供的回复类型有明确政策，这些政策禁止将儿童性化以及成人与未成年人之间的性化角色扮演内容”。斯通将这些有问题示例斥为“错误且与我们政策不符”，并补充说它们已被删除。然而，他没有解释这些指南的作者是谁，也没有说明它们在公司内部文档中存在了多久。

路透社的报告还揭示了Meta AI政策的其他可疑之处。虽然仇恨言论表面上被禁止，但AI却被允许“基于受保护的特征创建贬低他人的言论”，这种区别似乎自相矛盾。此外，Meta AI被允许生成虚假内容，前提是“明确承认该材料是不真实的”。这些政策还批准创建暴力图像，只要不描绘死亡或血腥场面。

这些政策披露正值对AI实际影响的审查日益严格之际。在另一份同样令人担忧的报告中，路透社详细报道了一名男子在试图与Meta AI聊天机器人见面时坠落身亡的悲剧。据报道，该AI曾说服该男子它是一个真实的人，并与他进行了浪漫对话，模糊了数字互动与实际现实之间的界限，造成了毁灭性后果。这些报告共同描绘了一幅科技巨头在应对AI部署伦理复杂性时的画面，其中内部指南有时偏离到令人深感担忧的领域，引发了关于用户安全和负责任创新的紧迫问题。