Flávia Carvalhido: Verantwortungsvolle multimodale KI & Stresstests
An vorderster Front bei der Gewährleistung, dass künstliche Intelligenz der Menschheit verantwortungsvoll dient, steht Flávia Carvalhido, eine Doktorandin an der Universität Porto. Sie nimmt sich einer kritischen Herausforderung an: multimodale KI-Modelle für hochsensible Anwendungen wie die medizinische Diagnostik sicherer zu machen. Ihre Forschung, die Teil des Projekts „Center for Responsible AI“ der Universität Porto ist, konzentriert sich auf „Stresstests von Bild-Text-multimodalen Modellen bei der Erstellung medizinischer Bildberichte“ – ein entscheidender Bereich, in dem die Präzision der KI direkte Auswirkungen auf die Patientenversorgung hat. Unter der Aufsicht der Professoren Henrique Lopes Cardoso und Vítor Cerqueira am LIACC-Forschungslabor zielt Carvalhidos Arbeit darauf ab, die Grenzen modernster KI-Systeme aufzudecken, um deren informierteren und zuverlässigeren Einsatz im Gesundheitswesen zu fördern.
Carvalhidos Forschung basiert auf dem Verständnis, dass die Schwachstellen der KI gründlich verstanden werden müssen, damit sie in sicherheitskritischen Sektoren wirklich nützlich sein kann. Indem sie modernste multimodale KI-Modelle – solche, die sowohl Bilder als auch Text verarbeiten, wie die Generierung eines radiologischen Berichts aus einem Scan – rigorosen Stresstests unterzieht, versucht sie, deren Fehlerpunkte genau zu bestimmen. Diese Methodik, die in der KI-Entwicklung noch relativ unerforscht ist, soll zu einem grundlegenden Verfahren bei der Schaffung verantwortungsvoller KI werden. Nachdem sie ihren Thesevorschlag bereits verteidigt hat, befindet sich Carvalhido derzeit tief in der Entwicklungsphase ihrer Doktorarbeit, die eine umfassende Literaturrecherche und eine sorgfältig geplante, dreijährige Methodik umfasst. Ihre Arbeit integriert mehrere Schlüsseldisziplinen: multimodale KI, medizinische Bildberichtserstellung, erklärbare KI, Modellrobustheit, verantwortungsvolle KI und die neuartige Anwendung von Stresstests.
Einer der überzeugendsten Aspekte von Carvalhidos Reise ist die Navigation durch das unerforschte Gebiet der KI-Stresstests. Diese Pionierarbeit bietet einzigartige Möglichkeiten für bahnbrechende Entdeckungen, erfordert jedoch auch außergewöhnliche Originalität und rigorose, qualitativ hochwertige Forschung, um ein neues Paradigma innerhalb des Feldes zu etablieren. Eine erhebliche Herausforderung, der sie gegenübersteht, ist die schiere Geschwindigkeit des Fortschritts in der multimodalen generativen KI. Wöchentlich erscheinen neue Forschungsarbeiten, was eine ständige Anpassung und Aktualisierung ihrer eigenen Arbeit erfordert, um relevant zu bleiben. Diese schnelle Entwicklung in der KI-Entwicklung übertrifft oft das bedachtere Tempo, das für die Forschung an verantwortungsvoller KI erforderlich ist, und schafft ein heikles Gleichgewicht, das im Mittelpunkt ihrer Doktorarbeit steht.
Mit Blick auf die Zukunft plant Carvalhido, verschiedene Facetten der medizinischen Bildberichtserstellung systematisch zu erforschen. Dies beinhaltet eine eingehende Analyse und den Vergleich aktueller führender Modelle unter Verwendung von Explainable AI (XAI)-Techniken, um deren interne Funktionsweise und Leistung besser zu verstehen. Dieser grundlegende Schritt wird eine repräsentative Basis schaffen, auf der ihre anfänglichen Stresstestmethoden angewendet werden können. Ihr ultimatives Ziel ist es zu verstehen, wie sich diese generativen Modelle unter Druck verhalten. Danach wird sie beginnen, die Modelle mit absichtlich „herausfordernden“ oder stressinduzierenden Eingaben zu testen und alle Verschiebungen in ihrer Leistung oder generativen Ausgaben akribisch zu dokumentieren. Eine entscheidende nächste Phase wird darin bestehen, genau zu definieren, was einen stressinduzierenden Input ausmacht, und, allgemeiner, das Konzept des Stresstests im Bereich der KI zu festigen.
Carvalhidos Weg zur KI-Forschung wurde durch eine lebenslange Neugier geweckt, wie Computer und die Welt funktionieren. Schon früh führte sie eine Faszination für Technologie dazu, Informatik und Computertechnik zu studieren, wo KI-Kurse sie stets fesselten. Sie wird von den grenzenlosen Möglichkeiten des Feldes und seiner dynamischen, sich ständig ändernden Natur angetrieben und glaubt, dass KI niemals aufhören wird, neue Lern- und Entdeckungsmöglichkeiten zu bieten. Sie strebt danach, durch ihre Beiträge zur KI ein Vermächtnis positiver Auswirkungen zu hinterlassen. Für diejenigen, die ein Doktoratsstudium in KI in Betracht ziehen, betont Carvalhido, dass es sowohl eine große Herausforderung für die Entschlossenheit als auch ein persönliches Versprechen des Engagements ist. Sie rät angehenden Forschern, auf ständige Veränderungen vorbereitet zu sein, anpassungsfähig zu bleiben und sich auf ihre Ziele zu konzentrieren, wobei sie hervorhebt, dass die schnelllebige Natur der KI-Forschung proaktives Engagement und die Bereitschaft zum Eintauchen erfordert.
Ihre jüngste Erfahrung beim AAAI Doctoral Consortium und der breiteren AAAI-Konferenz erwies sich als transformativ. Als ihre erste große Konferenz bot sie eine unvergleichliche Gelegenheit, sich mit verschiedenen Forschungsideen und Perspektiven zur Zukunft der KI auseinanderzusetzen. Das Kennenlernen anderer junger Forscher und das Lernen von erfahrenen Fachleuten bei einer so großen Veranstaltung war eine bereichernde Erfahrung, die ihr Engagement für das Fachgebiet festigte. Außerhalb ihrer akademischen Bestrebungen ist Carvalhido, eine 24-jährige aus Porto, Portugal, eine begeisterte Reisende und selbsternannte Feinschmeckerin, die über zehn europäische Länder erkundet hat, oft durch Freiwilligenarbeit. Ihre erste Reise außerhalb Europas führte sie für die AAAI 2025 nach Philadelphia, und ihr Traumziel bleibt Japan, angezogen von der Aussicht auf ein tiefgreifendes kulturelles Eintauchen.