フラヴィア・カルヴァリド氏：責任あるマルチモーダルAIとストレステストの探求

人工知能が人類に責任をもって貢献することを確実にする最前線で、ポルト大学の博士課程学生であるフラヴィア・カルヴァリド氏は、医療診断のような高リスクな応用においてマルチモーダルAIモデルをより安全にするという、極めて重要な課題に取り組んでいます。彼女の研究は、ポルト大学の責任あるAIセンタープロジェクトの一環として、「医療画像レポート生成における画像-テキストマルチモーダルモデルのストレステスト」に焦点を当てています。これは、AIの精度が患者ケアに直接影響を与える重要な分野です。LIACC研究室のヘンリケ・ロペス・カルドーゾ教授とヴィトール・セルケイラ教授の指導の下、カルヴァリド氏の仕事は、最先端のAIシステムの限界を明らかにし、ヘルスケアにおけるより情報に基づいた信頼性の高い使用を促進することを目的としています。

カルヴァリド氏の研究は、AIが安全性が重視される分野で真に有益であるためには、その脆弱性を徹底的に理解する必要があるという認識に基づいています。彼女は、最先端のマルチモーダルAIモデル（画像とテキストの両方を処理し、スキャンから放射線レポートを生成するようなモデル）に厳密なストレステストを課すことで、その故障箇所を特定しようとしています。この手法は、AI開発においてはまだ比較的未開拓ですが、責任あるAIの創造における基本的な手順となることを意図しています。すでに博士論文提案を提出したカルヴァリド氏は、現在、広範な文献レビューと、3年間にわたる綿密に計画された方法論を含む博士課程の開発段階に深く取り組んでいます。彼女の研究は、マルチモーダルAI、医療画像レポート生成、説明可能なAI、モデルの堅牢性、責任あるAI、そしてストレステストの新しい応用といういくつかの主要な分野を統合しています。

カルヴァリド氏の研究の最も魅力的な側面の1つは、AIストレステストという未踏の領域を航海していることです。この先駆的な研究は、画期的な発見のためのユニークな機会を提供しますが、同時に、この分野内で新しいパラダイムを確立するために、並外れた独創性と厳密で質の高い研究が求められます。彼女が直面する大きな課題の1つは、マルチモーダル生成AIの進歩の驚異的な速さです。新しい研究論文が毎週発表されるため、関連性を保つためには自身の研究を常に適応させ、更新する必要があります。AI開発におけるこの急速な進化は、責任あるAI研究に求められるより慎重なペースをしばしば上回り、彼女の博士課程の中心となるデリケートなバランスを生み出しています。

今後、カルヴァリド氏は医療画像レポート生成の様々な側面を系統的に探求する予定です。これには、説明可能なAI（XAI）技術を用いて現在の主要モデルを詳細に分析・比較し、その内部動作と性能をよりよく理解することが含まれます。この基礎的なステップにより、彼女の初期のストレステスト手法を適用するための代表的なベースラインが確立されます。彼女の最終目標は、これらの生成モデルがプレッシャーの下でどのように振る舞うかを理解することです。その後、意図的に「挑戦的な」またはストレス誘発性の入力でモデルをテストし始め、その性能や生成出力の変化を綿密に記録します。次の重要な段階では、ストレス誘発性の入力が何を構成するのかを正確に定義し、より広範には、AIドメインにおけるストレステストの概念を固めることになります。

カルヴァリド氏がAI研究の道に進んだきっかけは、コンピューターと世界がどのように機能するのかという生涯にわたる好奇心でした。幼い頃からテクノロジーへの魅了が、情報科学とコンピューター工学を学ぶことにつながり、AIの授業には常に魅了されていました。彼女は、この分野の無限の可能性と、そのダイナミックで絶えず変化する性質に駆り立てられており、AIが常に新しい学習と発見を提供し続けると信じています。彼女はAIへの貢献を通じて、ポジティブな影響の遺産を残すことを目指しています。AI分野での博士号取得を検討している人に対し、カルヴァリド氏は、それが個人の決意に対する深い挑戦であると同時に、コミットメントの個人的な約束でもあると強調します。彼女は、意欲的な研究者に対し、絶え間ない変化に備え、適応性を保ち、目標に集中し続けるよう助言し、AI研究の速いペースが積極的な関与と飛び込む意欲を要求することを強調しています。

最近のAAAI博士コンソーシアムと広範なAAAI会議での彼女の経験は、変革的でした。彼女にとって初めての主要な会議として、AIの未来に関する多様な研究アイデアや視点に触れる比類のない機会を提供しました。このような大規模なイベントで若い研究者仲間と出会い、経験豊富な専門家から学ぶことは、彼女のこの分野へのコミットメントを確固たるものにする豊かな経験でした。学術的な追求を超えて、ポルトガル、ポルト出身の24歳のカルヴァリド氏は、熱心な旅行者であり、自称美食家でもあり、ボランティア活動を通じて10カ国以上のヨーロッパ諸国を探索してきました。ヨーロッパ外への初めての旅は、AAAI 2025のためにフィラデルフィアへ彼女を連れて行きました。そして、彼女の夢の目的地は、深い文化体験への魅力から、今も日本です。