Flávia Carvalhido: IA Multimodal Responsable y Pruebas de Estrés
A la vanguardia de la garantía de que la inteligencia artificial sirva a la humanidad de manera responsable, Flávia Carvalhido, estudiante de doctorado en la Universidad de Oporto, está abordando un desafío crítico: hacer que los modelos de IA multimodal sean más seguros para aplicaciones de alto riesgo como el diagnóstico médico. Su investigación, parte del proyecto del Centro de IA Responsable de la Universidad de Oporto, se centra en las “Pruebas de Estrés de Modelos Multimodales de Imagen-Texto en la Generación de Informes de Imágenes Médicas”, un área crucial donde la precisión de la IA impacta directamente en la atención al paciente. Supervisado por los profesores Henrique Lopes Cardoso y Vítor Cerqueira en el laboratorio de investigación LIACC, el trabajo de Carvalhido tiene como objetivo descubrir las limitaciones de los sistemas de IA de vanguardia, fomentando su uso más informado y fiable en la atención médica.
La investigación de Carvalhido se basa en la comprensión de que para que la IA sea verdaderamente beneficiosa en sectores críticos para la seguridad, sus vulnerabilidades deben ser comprendidas a fondo. Al someter a los modelos de IA multimodal de última generación —aquellos que procesan tanto imágenes como texto, como la generación de un informe radiológico a partir de una exploración— a rigurosas pruebas de estrés, busca identificar sus puntos de fallo. Esta metodología, aún relativamente inexplorada en el desarrollo de la IA, está destinada a convertirse en un procedimiento fundamental en la creación de IA responsable. Habiendo defendido ya su propuesta de tesis, Carvalhido se encuentra actualmente inmersa en la fase de desarrollo de su doctorado, que abarca una amplia revisión de la literatura y una metodología meticulosamente planificada que abarca tres años. Su trabajo integra varias disciplinas clave: IA multimodal, generación de informes de imágenes médicas, IA explicable, robustez del modelo, IA responsable y la aplicación novedosa de pruebas de estrés.
Uno de los aspectos más convincentes del viaje de Carvalhido es navegar por el territorio inexplorado de las pruebas de estrés de la IA. Este trabajo pionero ofrece oportunidades únicas para descubrimientos innovadores, pero exige una originalidad excepcional y una investigación rigurosa y de alta calidad para establecer un nuevo paradigma dentro del campo. Un desafío significativo al que se enfrenta es la pura velocidad del progreso en la IA generativa multimodal. Nuevos artículos de investigación surgen semanalmente, lo que requiere una adaptación y actualización constantes de su propio trabajo para seguir siendo relevante. Esta rápida evolución en el desarrollo de la IA a menudo supera el ritmo más deliberado requerido para la investigación de la IA responsable, creando un delicado equilibrio que es central para su doctorado.
De cara al futuro, Carvalhido planea explorar sistemáticamente varias facetas de la generación de informes de imágenes médicas. Esto implica un análisis en profundidad y una comparación de los modelos líderes actuales utilizando técnicas de IA Explicable (XAI) para comprender mejor su funcionamiento interno y su rendimiento. Este paso fundamental establecerá una línea de base representativa contra la cual se podrán aplicar sus metodologías iniciales de pruebas de estrés. Su objetivo final es comprender cómo se comportan estos modelos generativos bajo presión. Después de esto, comenzará a probar los modelos con entradas intencionadamente “desafiantes” o inductoras de estrés, documentando meticulosamente cualquier cambio en su rendimiento o salidas generativas. Una fase crucial siguiente implicará definir con precisión qué constituye una entrada inductora de estrés y, de manera más amplia, solidificar el concepto de pruebas de estrés dentro del dominio de la IA.
El camino de Carvalhido hacia la investigación de la IA fue impulsado por una curiosidad de toda la vida sobre cómo funcionan las computadoras y el mundo. Desde una edad temprana, la fascinación por la tecnología la llevó a estudiar Informática e Ingeniería Informática, donde las clases de IA siempre la cautivaron. Se siente impulsada por las posibilidades ilimitadas del campo y su naturaleza dinámica y en constante cambio, creyendo que la IA nunca dejará de ofrecer nuevos aprendizajes y descubrimientos. Aspira a dejar un legado de impacto positivo a través de sus contribuciones a la IA. Para aquellos que estén considerando un doctorado en IA, Carvalhido enfatiza que es tanto un desafío profundo para la determinación de uno como una promesa personal de compromiso. Aconseja a los investigadores aspirantes que estén preparados para el cambio constante, que se mantengan adaptables y que se centren en sus objetivos, destacando que la naturaleza acelerada de la investigación de la IA exige un compromiso proactivo y la voluntad de sumergirse.
Su reciente experiencia en el Consorcio Doctoral de la AAAI y la conferencia AAAI en general resultó transformadora. Como su primera conferencia importante, ofreció una oportunidad inigualable para interactuar con diversas ideas y perspectivas de investigación sobre el futuro de la IA. Conocer a otros jóvenes investigadores y aprender de profesionales experimentados en un evento de tan gran escala fue una experiencia enriquecedora que solidificó su compromiso con el campo. Más allá de sus actividades académicas, Carvalhido, una joven de 24 años de Oporto, Portugal, es una ávida viajera y una autoproclamada “foodie”, habiendo explorado más de diez países europeos, a menudo a través del voluntariado. Su primer viaje fuera de Europa la llevó a Filadelfia para la AAAI 2025, y su destino soñado sigue siendo Japón, atraída por la perspectiva de una profunda inmersión cultural.