Flávia Carvalhido : IA Multimodale Responsable et Tests de Résistance
À l’avant-garde de l’intelligence artificielle au service responsable de l’humanité, Flávia Carvalhido, doctorante à l’Université de Porto, s’attaque à un défi crucial : rendre les modèles d’IA multimodale plus sûrs pour des applications à enjeux élevés comme le diagnostic médical. Ses recherches, qui font partie du projet du Centre pour l’IA Responsable de l’Université de Porto, se concentrent sur les “Tests de Résistance des Modèles Multimodaux Image-Texte dans la Génération de Rapports d’Images Médicales”, un domaine crucial où la précision de l’IA a un impact direct sur les soins aux patients. Supervisé par les professeurs Henrique Lopes Cardoso et Vítor Cerqueira au laboratoire de recherche LIACC, le travail de Carvalhido vise à découvrir les limites des systèmes d’IA de pointe, favorisant leur utilisation plus éclairée et fiable dans les soins de santé.
La recherche de Carvalhido est ancrée dans la compréhension que pour que l’IA soit véritablement bénéfique dans les secteurs critiques pour la sécurité, ses vulnérabilités doivent être comprises en profondeur. En soumettant les modèles d’IA multimodale de pointe — ceux qui traitent à la fois des images et du texte, comme la génération d’un rapport radiologique à partir d’un scan — à des tests de résistance rigoureux, elle cherche à identifier leurs points de défaillance. Cette méthodologie, encore relativement inexplorée dans le développement de l’IA, est destinée à devenir une procédure fondamentale dans la création d’une IA responsable. Ayant déjà défendu sa proposition de thèse, Carvalhido est actuellement plongée dans la phase de développement de son doctorat, qui englobe une vaste revue de la littérature et une méthodologie méticuleusement planifiée s’étendant sur trois ans. Son travail intègre plusieurs disciplines clés : l’IA multimodale, la génération de rapports d’images médicales, l’IA explicable, la robustesse des modèles, l’IA responsable et l’application novatrice des tests de résistance.
L’un des aspects les plus fascinants du parcours de Carvalhido est la navigation dans le territoire inexploré des tests de résistance de l’IA. Ce travail pionnier offre des opportunités uniques de découvertes révolutionnaires, mais il exige une originalité exceptionnelle et une recherche rigoureuse et de haute qualité pour établir un nouveau paradigme dans le domaine. Un défi important auquel elle est confrontée est la vitesse fulgurante des progrès de l’IA générative multimodale. De nouveaux articles de recherche émergent chaque semaine, nécessitant une adaptation et une mise à jour constantes de son propre travail pour rester pertinente. Cette évolution rapide du développement de l’IA dépasse souvent le rythme plus délibéré requis pour la recherche sur l’IA responsable, créant un équilibre délicat qui est au cœur de son doctorat.
Pour l’avenir, Carvalhido prévoit d’explorer systématiquement diverses facettes de la génération de rapports d’images médicales. Cela implique une analyse approfondie et une comparaison des modèles de pointe actuels à l’aide de techniques d’IA Explicable (XAI) pour mieux comprendre leur fonctionnement interne et leurs performances. Cette étape fondamentale établira une base représentative par rapport à laquelle ses méthodologies initiales de tests de résistance pourront être appliquées. Son objectif ultime est de comprendre comment ces modèles génératifs se comportent sous pression. Ensuite, elle commencera à sonder les modèles avec des entrées intentionnellement “difficiles” ou génératrices de stress, documentant méticuleusement tout changement dans leurs performances ou leurs sorties génératives. Une phase cruciale suivante consistera à définir précisément ce qui constitue une entrée génératrice de stress et, plus largement, à solidifier le concept de test de résistance dans le domaine de l’IA.
Le chemin de Carvalhido vers la recherche en IA a été déclenché par une curiosité de toute une vie sur le fonctionnement des ordinateurs et du monde. Dès son plus jeune âge, une fascination pour la technologie l’a amenée à poursuivre des études en informatique et en génie informatique, où les cours d’IA l’ont constamment captivée. Elle est animée par les possibilités illimitées du domaine et sa nature dynamique et en constante évolution, croyant que l’IA ne cessera jamais d’offrir de nouvelles connaissances et découvertes. Elle aspire à laisser un héritage d’impact positif grâce à ses contributions à l’IA. Pour ceux qui envisagent un doctorat en IA, Carvalhido souligne que c’est à la fois un défi profond pour la détermination de chacun et une promesse personnelle d’engagement. Elle conseille aux futurs chercheurs d’être préparés au changement constant, de rester adaptables et de rester concentrés sur leurs objectifs, soulignant que la nature rapide de la recherche en IA exige un engagement proactif et une volonté de s’impliquer.
Son expérience récente au Consortium Doctoral de l’AAAI et à la conférence AAAI plus large s’est avérée transformatrice. En tant que sa première conférence majeure, elle a offert une opportunité inégalée de s’engager avec diverses idées de recherche et perspectives sur l’avenir de l’IA. Rencontrer d’autres jeunes chercheurs et apprendre de professionnels chevronnés lors d’un événement d’une telle envergure a été une expérience enrichissante qui a solidifié son engagement envers le domaine. Au-delà de ses activités académiques, Carvalhido, 24 ans, originaire de Porto, au Portugal, est une voyageuse passionnée et une “foodie” autoproclamée, ayant exploré plus de dix pays européens, souvent par le biais du bénévolat. Son premier voyage hors d’Europe l’a menée à Philadelphie pour l’AAAI 2025, et sa destination de rêve reste le Japon, attirée par la perspective d’une immersion culturelle profonde.