Flávia Carvalhido：为医疗AI安全加压测试

为了确保人工智能负责任地服务人类，波尔图大学博士生Flávia Carvalhido正在攻克一项关键挑战：让多模态AI模型在医疗诊断等高风险应用中更加安全。她的研究是波尔图大学“负责任AI中心”项目的一部分，重点关注“医学图像报告生成中图像-文本多模态模型的压力测试”，这是一个AI精度直接影响患者护理的关键领域。在LIACC研究实验室的Henrique Lopes Cardoso教授和Vítor Cerqueira教授的指导下，Carvalhido的工作旨在揭示尖端AI系统的局限性，以促进其在医疗保健领域更知情、更可靠的应用。

Carvalhido的研究根植于一个理解：要使AI在安全关键领域真正发挥作用，就必须透彻理解其脆弱性。通过对最先进的多模态AI模型（即能够处理图像和文本，例如根据扫描生成放射报告的模型）进行严格的压力测试，她旨在找出它们的失效点。这种方法在AI开发中仍相对未被充分探索，但有望成为负责任AI创建的基本程序。Carvalhido已成功答辩其博士论文提案，目前正深入博士研究的开发阶段，其中包括广泛的文献综述和为期三年的精心规划方法。她的工作整合了多个关键学科：多模态AI、医学图像报告生成、可解释AI、模型鲁棒性、负责任AI以及压力测试的新颖应用。

Carvalhido研究中最引人入胜的方面之一是探索AI压力测试这一未知领域。这项开创性工作为突破性发现提供了独特的机会，但也要求研究具有卓越的原创性和严谨的高质量，以在该领域建立新的范式。她面临的一个重大挑战是多模态生成AI的飞速发展。新的研究论文每周都在涌现，这要求她不断调整和更新自己的工作以保持相关性。AI发展的这种快速演变往往超越了负责任AI研究所需的更审慎的步伐，从而形成了其博士研究的核心——一种微妙的平衡。

展望未来，Carvalhido计划系统地探索医学图像报告生成的各个方面。这包括使用可解释AI（XAI）技术对当前领先模型进行深入分析和比较，以更好地理解其内部工作原理和性能。这一基础性步骤将建立一个代表性的基线，她的初步压力测试方法将以此为基础进行应用。她的最终目标是理解这些生成模型在压力下的行为方式。在此之后，她将开始用故意“挑战性”或压力诱导的输入来探测模型，并细致记录其性能或生成输出的任何变化。一个关键的下一阶段将是精确定义什么是压力诱导输入，更广泛地，巩固AI领域中压力测试的概念。

Carvalhido的AI研究之路源于对计算机和世界如何运作的终身好奇心。从小，她对技术的热爱促使她攻读信息学和计算机工程专业，而AI课程始终令她着迷。她被该领域无限的可能性及其动态、不断变化的性质所驱动，坚信AI将永远提供新的学习和发现。她渴望通过自己对AI的贡献留下积极影响的遗产。对于考虑攻读AI博士学位的人，Carvalhido强调这既是对个人决心的深刻挑战，也是对承诺的个人兑现。她建议有抱负的研究人员做好应对持续变化的准备，保持适应性，并专注于目标，强调AI研究的快节奏性质要求积极参与和投入的意愿。

她最近在AAAI博士生论坛和更广泛的AAAI会议上的经历证明是变革性的。作为她的首次大型会议，它提供了无与伦比的机会，让她接触到关于AI未来的多样化研究思想和观点。在如此大型的活动中结识其他年轻研究人员并向经验丰富的专业人士学习，是一次丰富的经历，巩固了她对该领域的承诺。除了学术追求，这位来自葡萄牙波尔图的24岁Carvalhido还是一位狂热的旅行者和自称的美食家，曾通过志愿服务探索了十多个欧洲国家。她第一次欧洲之外的旅行将她带到费城参加AAAI 2025，而她梦想的目的地仍然是日本，被那里深厚的文化沉浸所吸引。