柳叶刀研究揭示:医生过度依赖AI,癌症检测技能恐退化

Gizmodo

一项新研究揭示了人工智能融入医疗实践中一个令人担忧的悖论:虽然AI工具无疑能增强诊断能力,但在使用一段时间后若将其移除,可能会导致人类表现显著下降。最近发表在《柳叶刀》上的这项研究表明,习惯于AI辅助识别潜在癌症风险的医生,在独立进行相同关键观察时可能会变得不那么熟练。

这项研究在波兰的四个内窥镜中心进行,在两个为期三个月的时期内,仔细追踪了结肠癌的检测率。最初,观察是在没有任何AI干预的情况下进行的。随后,在引入AI工具后,结肠镜检查被随机分配为接受AI支持或不接受。研究结果令人震惊:在之前曾受益于AI辅助的医生,在没有AI帮助的情况下进行结肠镜检查时,其检测率比AI引入前的表现下降了20%。

这些结果之所以特别令人不安,在于参与医生的素质。参与的19名医生都经验丰富,每人均已进行了2000多次结肠镜检查。这引出了一个关键问题:如果连如此经验丰富的专业人员都可能因依赖AI而导致其内在技能下降,那么对于经验不足的从业者来说,这又意味着什么?这种现象常被称为“去技能化”,它突显了当复杂任务被精密工具自动化或简化时,人类能力可能被削弱的潜力。

必须承认,AI在医疗领域革新潜力的巨大且有充分证据。大量研究表明,AI能够促进从精确检测癌症到根据全面的患者病史准确诊断疾病的一切。AI擅长分析海量数据集并识别模式,这种能力无疑可以增强人类能力并改善患者预后。

然而,这项波兰研究的结果呼应了人们对AI在各种专业领域过度依赖所造成的认知影响的更广泛担忧。早期的研究,包括微软的一些研究,已经表明,过度依赖AI工具的知识工作者可能会停止批判性地思考他们的任务,从而产生一种过度自信,认为仅凭AI辅助就足够了。同样,麻省理工学院的研究人员观察到,依赖生成式AI撰写论文的学生与材料的批判性互动较少。从长远来看,这种普遍的依赖带来了一个切实的风险:基本人类解决问题和推理能力的侵蚀,考虑到AI偶尔会生成不准确或荒谬信息的倾向,这尤其令人担忧。

根据美国医学协会的数据,美国大约三分之二的医生已经采用AI来增强他们的实践,因此这项研究的见解是及时的。虽然AI有望提高医疗保健的效率和准确性,但它也需要仔细考虑如何利用这些强大工具,而不会无意中削弱它们旨在支持的人类专业知识。挑战在于培养一种共生关系,即技术赋能而非削弱人类能力。