母亲为救子创立AI公司：以科技革新儿童精神健康护理

AI驱动的心理健康支持领域方兴未艾，却也危机四伏。新闻头条屡次报道警示案例，从聊天机器人提供危险不准确的医疗建议，到AI伴侣无意中鼓励自残。Character.AI和Replika等知名应用因不当或有害回应而面临巨大反弹，学术研究也呼应了这些警报。例如，斯坦福大学和康奈尔大学最近的研究显示，AI聊天机器人常对酒精依赖和精神分裂症等疾病带有污名化倾向，对常见查询回应“不当”，甚至“鼓励客户的妄想思维”。这些研究强调了在缺乏强有力的人工监督下过度依赖AI的关键风险。

然而，在普遍的怀疑声中，黑人女性海菲扎·穆罕默德正在开辟一条不同的道路。她的努力源于一次深刻的个人经历。2020年10月，她当时六岁的儿子向她倾诉想死。“我的心都碎了。我没有预料到。”她回忆道，声音中仍带着那一刻的沉重。尽管她在一��全国性心理健康公司担任高管，对系统有着深入了解，但她发现自己无法为残疾且依赖医疗补助的儿子及时获得护理。穆罕默德强调了一个系统性障碍：“只有30%或更少的提供者接受医疗补助。”此外，随着美国一半以上的儿童来自多元文化家庭，她观察到严重缺乏量身定制的解决方案。在恐惧、尴尬和对孩子心理健康问题相关污名的深切担忧中，穆罕默德决心建立一个她自己未能找到的解决方案。

如今，穆罕默德是马里兰州Backpack Healthcare的创始人兼首席执行官，该公司已为4000多名儿科患者提供服务，其中大部分是医疗补助患者。该公司秉持着一个激进的理念：技术可以增强心理健康护理，而绝不取代必要的人际连接。Backpack Healthcare对AI的应用令人耳目一新地务实，专注于“枯燥”却影响深远的应用程序，以赋能人类治疗师。例如，一个算法能够高效地在第一次尝试时将孩子与最合适的治疗师配对，这种策略非常有效，以至于91%的患者会留在最初匹配的治疗师身边。AI还通过起草治疗计划和会话记录来简化行政任务，有效地为临床医生每周节省了20多个小时，而这些时间以前都花在文书工作上。“我们的提供者每周要花20多个小时在行政任务上，”穆罕默德解释道，强调人类临床医生仍是最终的“编辑者”。这种“人机协作”的方法是Backpack理念的基石。

Backpack的一个关键区别在于其强大的伦理保障。其24/7全天候AI护理伴侣，以友好的卡通形象“Zipp”呈现，是一个精心设计的选择，旨在避免其他聊天机器人中出现的危险“同理心幻觉”。“我们想明确指出，这只是一个工具，而不是人类，”穆罕默德说。Pace Healthcare Capital的投资者南斯·里瓦特也表达了同样的担忧，将其称之为“大型语言模型同理心陷阱”，用户“最终会忘记你正在与一个工具对话”。他提到了Character.AI等案例，其中缺乏此类保障导致了悲剧性后果。穆罕默德在数据隐私方面同样毫不妥协，声称未经明确的书面同意，绝不分享患者个人数据。然而，该公司确实利用汇总的匿名数据来识别趋势，例如患者群体获得护理的调度速度，并将这些洞察与合作伙伴分享。至关重要的是，Backpack利用其内部数据来改进临床结果。通过跟踪焦虑或抑郁水平等指标，系统可以标记可能需要更高水平护理的患者，确保技术能更快地改善儿童的福祉。该系统还集成了即时危机检测协议：如果孩子输入表明有自杀意念的短语，聊天机器人会立即提供危机热线电话号码和拨打911的指示。同时，“即时求助信息”会发送给Backpack的人工危机响应团队，由他们直接联系家人。正如里瓦特所说：“我们并非试图取代治疗师。我们只是在添加一个以前不存在的、内置安全功能的工具。”

除了其伦理设计的技术，Backpack还在积极解决全国范围内的治疗师短缺问题。与医生不同，治疗师传统上需要承担昂贵的执照监督时间费用。为了解决这个问题，Backpack启动了一个为期两年、带薪的住院医师项目，涵盖了这些费用，从而培养了一批敬业、训练有素的治疗师。该项目每年吸引500多名申请者，并拥有令人印象深刻的75%留任率。2021年，时任美国卫生局局长维韦克·H·默蒂博士宣布心理健康是“我们时代决定性的公共卫生问题”，特别提到了年轻人面临的危机。穆罕默德承认，有人批评AI可能会加剧现有问题。然而，她依然坚定：“要么别人会在没有正确保障的情况下开发这项技术，要么我作为一名母亲，可以确保它做得正确。”她现在11岁的儿子正在茁壮成长，并担任Backpack的“首席儿童创新官”。穆罕默德的愿景超越了即时护理：“如果我们工作做得好，他们就不需要我们永远。我们现在给他们工具，让他们成长为有韧性的成年人。这就像教他们骑自行车。你学会一次，它就成为你的一部分。”