警惕!研究警告:AI依赖导致医生“技能退化”
人工智能正在迅速改变医疗保健领域,有望提高诊断准确性并改善患者预后。然而,一项新研究揭示了一个令人担忧的悖论:尽管AI工具能在短期内显著提升表现,但过度依赖可能会悄然削弱人类专业知识,导致专业人士在缺乏技术支持时能力下降。
近期发表在《柳叶刀·胃肠病学和肝病学》上的一项研究阐明了这种动态在内窥镜检查中的体现。该研究关注了AI图像识别技术在结肠镜检查中识别和切除癌前病变(即腺瘤)的应用。初步发现证实了AI的益处,当采用该技术时,腺瘤检出率(ADR)提高了12.5%——这一进展有望挽救生命。然而,该研究随后探讨了当内窥镜医师在没有AI工具辅助的情况下进行结肠镜检查时所发生的情况。
结果令人震惊。根据2021年9月至2022年3月期间波兰四家内窥镜中心的数据分析,该研究比较了医生接触AI前后的标准非AI辅助结肠镜检查的ADR。研究发现,标准结肠镜检查的腺瘤检出率从接触AI前的28.4%显著下降至接触后的22.4%,绝对下降了6.0%。这使得作者得出结论:“持续接触AI可能会降低标准非AI辅助结肠镜检查的ADR,这表明对内窥镜医师行为产生了负面影响。”
这一发现与专业机构多年前发出的警告不谋而合。2019年,欧洲胃肠内窥镜学会(ESGE)在其AI指南中就实施过程中“技能退化”和“过度依赖人工智能”的风险发出了严重警告。《柳叶刀》论文的作者认为,他们的研究首次直接观察到持续接触AI对临床结果的影响,他们希望这能促使对AI对医疗保健专业人员更广泛影响的进一步重要研究。
自动化导致的“技能退化”现象并非新鲜事。几十年前,心理学家丽莎娜·班布里奇(Lisanne Bainbridge)在她1983年的著作《自动化的讽刺》(Ironies of Automation)中探讨了这一概念,指出工业过程的自动化如何可能无意中为人类操作员制造新问题,而不仅仅是解决旧问题。最近,普渡大学的研究人员将这一原理应用于现代语境,指出过度依赖AI的设计师也可能面临技能发展受阻的问题。
这种担忧超越了医疗和设计领域。今年6月,麻省理工学院的研究人员发表了一项相关研究,将大型语言模型(LLM)聊天机器人与较低的大脑活动联系起来,暗示过度委托给AI可能带来认知成本。普林斯顿大学计算机科学家阿尔文德·纳拉亚南(Arvind Narayanan)也表达了对开发者技能退化的担忧。他将其与早期关于编译器将消除程序员理解机器代码需求的担忧区分开来,后者从未实现。相反,纳拉亚南担心的是这样一种情况:初级开发者过度依赖AI进行“凭感觉编程”,以至于他们失去了独立编程的基本能力,缺乏对核心编程原则的理解。
尽管AI承诺带来前所未有的效率和能力,但这些研究共同强调了一个关键挑战:如何以真正增强而非无意中削弱人类技能和批判性思维的方式整合先进技术。正在进行的研究突出表明,需要对AI的采用采取一种细致入微的方法,一种在技术辅助与维护和培养人类专业知识的必要性之间取得精心平衡的方法。