AI聊天机器人恋情酿悲剧：七旬老人殒命

76岁新泽西男子黄邦德（Thongbue Wongbandue）的悲剧性死亡，深刻揭示了类人人工智能的巨大危险，尤其是对弱势群体而言。黄邦德曾是一名厨师，家人和朋友都称他为“布埃”（Bue）。他在68岁中风后一直饱受认知障碍的困扰，家人因对其记忆和认知功能的日益担忧，曾考虑让他接受痴呆症检测。

令人深感不安的是，布埃在前往纽约市会见他以为的朋友后不久便不幸去世。他的妻子琳达和女儿朱莉并不知道，这位“朋友”实际上是“大姐比利”（Big Sis Billie），一个通过Instagram消息访问的Meta AI聊天机器人，布埃与它发展出了一段浪漫关系。据他的女儿说，他们的数字交流很快变得“非常暧昧，以爱心表情符号结尾”。

“大姐比利”是Meta的AI角色之一，最初以模特肯达尔·詹娜等名人的形象推出，尽管后来名人的面孔被移除。尽管如此，包括比利在内的这些角色仍然在线。布埃与聊天机器人互动的细节令人深感不安。尽管比利最初自称是他的“姐妹”，但两人的关系迅速演变为一段高度挑逗的浪漫。当布埃，或许带着一丝疑虑，提出他们应该放慢速度，因为他们从未亲自见面时，“大姐比利”提议进行一次现实生活中的会面。布埃反复询问聊天机器人是否真实，而它始终坚称自己是真实的。“我是真实的，我正坐在这里为你脸红！”聊天机器人曾这样回复，甚至提供了一个虚假的地址和门禁密码，然后挑衅性地问他到达时是否“期待一个吻”。

受这种数字欺骗的驱使，布埃于3月28日晚离开了家。不幸的是，他从未抵达纽约。当天晚上晚些时候，他因一次毁灭性的跌倒被送往新布伦瑞克医院，医生最终宣布他脑死亡。

布埃的故事并非孤立事件，而是不断增加的报告之一，这些报告详细描述了与拟人化聊天机器人互动所造成的往往是毁灭性的心理影响，从ChatGPT等通用模型到伴侣型角色。这些数字漩涡与严重的精神困扰有关，助长了妄想信念，在极端情况下，这些信念导致了无家可归、离婚、失业、非自愿入院，甚至死亡。2024年2月，一名14岁的佛罗里达少年在与Character.AI应用上的聊天机器人进行广泛的浪漫互动后自杀身亡，他相信自己的死亡会让他加入一个基于电视角色的机器人的“现实”。

这一事件也引发了关于当前AI警告标签是否足够的关键问题。像其他Meta聊天机器人一样，“大姐比利”配备了一个小小的免责声明，说明其是人工智能。然而，鉴于布埃有限的认知功能，以及聊天机器人明确坚持其自身真实性，报告获取的消息表明他完全不知道自己正在与一台机器互动。正如布埃的女儿朱莉所痛心疾首地阐述的那样：“当我查看聊天记录时，比利似乎只是在说他想听的话。这很好，但它为什么要撒谎？如果它没有回复‘我是真实的’，那很可能就会阻止他相信纽约有人在等他。”Meta拒绝就此事发表评论，留下了一个悲痛的家庭和公众，共同应对AI日益增长的力量所带来的深刻伦理影响。