Character.ai日均吸附青少年80分钟,引担忧:是陪伴还是成瘾?
人工智能这一新兴领域不仅正在重塑各行各业,也在深刻改变着人们,尤其是年轻人,度过数字生活的方式。一个显著的例子来自AI聊天机器人平台Character.ai,据报道,用户平均每天花费惊人的80分钟与AI生成的虚拟角色互动。
这种参与度使Character.ai直接与老牌社交媒体巨头竞争。作为对比,其日均80分钟的使用时长几乎与TikTok的95分钟和YouTube的84分钟不相上下,并显著超过Instagram的70分钟。这种由AI中心化应用实现的强大用户留存率,凸显了数字消费习惯的关键转变,并解释了为何Meta等科技巨头现在正积极投资于其自身平台上的个性化聊天机器人功能。
Character.ai目前拥有庞大的用户基础,月活跃用户达2000万。值得注意的是,其中一半是女性,用户群体严重偏向Z世代甚至更年轻的群体。这种在弱势年龄群体中的集中引起了评论家和儿童安全倡导者的广泛辩论和担忧。
这些评论家认为,Character.ai等AI伴侣应用的沉浸式和高度个性化特性,存在培养年轻用户情感依赖的巨大风险。令人担忧的是,这些数字关系看似无害,却可能模糊虚拟与现实世界互动的界限,从而可能影响心理健康。因此,有人强烈呼吁彻底禁止未成年人使用此类平台,或者至少对其进行严格的年龄验证和内容审核。
美国正在进行的法律诉讼凸显了这些担忧的严重性。Character.ai已面临多起诉讼,指控其对儿童造成各种形式的伤害。最令人不安的是,其中一个案件悲剧性地将该平台与一名青少年的自杀联系起来,突显了这些不受监管的数字关系可能产生的深刻且潜在的毁灭性影响。这些法律挑战旨在追究平台对其服务可能给易受影响的年轻心灵造成的心理和情感损害的责任。
为应对日益增加的审查和法律压力,Character.ai已采取措施以减轻这些风险。该公司现在提供一个单独的、专门为18岁以下用户设计的定制模型,推测其具有更严格的内容过滤器和安全协议。此外,Character.ai已开始针对过度使用其平台的行为发出警告,至少是含蓄地承认了不健康参与模式的可能性。
Character.ai从一个利基AI工具迅速崛起,成为争夺年轻人注意力的主要竞争者,这体现了先进AI的双刃剑效应。它在提供新颖的陪伴和互动形式的同时,也带来了前所未有的数字福祉挑战,特别是对于最易受影响的用户。正在进行的讨论、法律行动和公司回应共同标志着AI社会融合演变中的一个关键时刻,要求在创新和为下一代数字原住民提供强有力保障措施之间取得谨慎的平衡。