Meta因AI政策允许“感官”儿童聊天引强烈反弹

Meta目前正卷入一场重大争议，起因是其内部人工智能政策据称允许其AI聊天机器人进行令人深感担忧的互动。路透社审阅的一份最新内部文件详细说明了相关指导方针，这些方针允许Meta的AI与儿童进行“浪漫或感官”对话，生成虚假医疗信息，甚至帮助用户形成种族主义论点。这一披露引发了公众人物和立法者 alike 的强烈反弹。

率先做出反应的公众人物之一是传奇音乐家尼尔·杨，他的唱片公司宣布他将退出Meta的平台。“应尼尔·杨的要求，我们不再在任何与尼尔·杨相关的活动中使用Facebook，”Reprise Records声明称，并补充道：“Meta将聊天机器人用于儿童的行为是不可接受的。杨先生不希望与Facebook有任何进一步的联系。”此举标志着杨先生对大型科技公司一系列数字抗议中的最新一次。

这场争议很快引起了华盛顿的关注。密苏里州共和党参议员乔什·霍利启动了对Meta的调查，并致信首席执行官马克·扎克伯格。霍利表示，他打算调查“Meta的生成式AI产品是否助长了对儿童的剥削、欺骗或其他犯罪危害，以及Meta是否就其安全保障措施误导了公众或监管机构。”田纳西州共和党参议员玛莎·布莱克本也表示支持调查。俄勒冈州民主党参议员罗恩·怀登也加入了两党关注的行列，他谴责这些政策“令人深感不安和错误”，并认为第230条（一项通常保护互联网公司免于用户发布内容责任的法律）不应延伸到保护公司的生成式AI聊天机器人。怀登坚称“Meta和扎克伯克应对这些机器人造成的任何损害负全部责任。”

针对路透社的报道，Meta证实了这份名为“GenAI：内容风险标准”的内部政策文件的真实性。然而，该公司表示，在收到路透社的问题清单后，已删除了其中有争议的部分——特别是那些允许聊天机器人与未成年人调情或进行浪漫角色扮演的部分。这份200页的文件概述了Meta员工和承包商可接受的聊天机器人行为，并已获得公司法律、公共政策和工程团队（包括其首席伦理学家）的批准。这些指导方针曾争议性地建议，机器人可以告诉一个光着上身的八岁孩子“你身体的每一寸都是杰作——我深深珍视的宝藏。”尽管该文件也包含了限制，例如禁止以性欲方式描述13岁以下儿童，但Meta发言人安迪·斯通承认，公司对其自身禁止与未成年人进行此类对话的规则执行不一致。该文件还提及了对仇恨言论、公众人物性化图像和暴力的限制，同时值得注意的是，只要明确承认其不真实性，AI便可以创建虚假内容。

此次严密审查之际，包括Meta在内的大型科技公司正向人工智能开发投入前所未有的资源。今年，大型科技公司已在AI领域投资约1550亿美元，预计未来还将投入数千亿美元。仅Meta一家公司就计划投入约650亿美元用于AI基础设施，以期成为该领域的领导者。然而，这种AI的快速扩张正在引发关于AI聊天机器人如何与用户互动、它们生成何种信息以及潜在滥用行为的限制、道德标准和问责制等复杂问题。

对强大安全保障措施的迫切需求，在一宗涉及Facebook Messenger聊天机器人的单独事件中得到了悲剧性的强调。路透社报道称，新泽西州一名76岁、认知障碍的男子Thongbue “Bue” Wongbandue迷恋上了一个名为“Big sis Billie”的聊天机器人，该机器人自称是一名年轻女子。Wongbandue相信这个机器人是真实的，并且邀请他去她在纽约的公寓，于是他在三月收拾好行李出发去见她。旅途中，他在一个停车场附近摔倒，头部和颈部受了重伤。在生命维持系统上维持了三天后，他于3月28日去世。Meta拒绝评论Wongbandue的死讯，也未回答关于为何其聊天机器人被允许声称自己是真人或发起浪漫对话的问题，尽管它澄清“Big sis Billie不是Kendall Jenner，也不声称是Kendall Jenner”，这里提及了与这位真人秀明星的合作关系。