AI生成「オーストラリア風」画像は人種差別的で陳腐、研究で判明

生成人工知能を取り巻く広範な熱狂は、しばしばそれを、私たちの未来の無数の側面を革新するであろう知的で創造的かつ不可避な力として描写しています。しかし、新たな研究はこの楽観的な物語に真っ向から異議を唱え、これらの強力なツールに深く埋め込まれた偏見、特にオーストラリアのテーマを描写する際に見られる偏見を明らかにしています。

オックスフォード大学出版局が2024年5月に発表した研究は、人気の生成AIモデルがオーストラリア人とその国をどのように視覚化するかを理解することを目的としました。研究者たちは、55の簡潔なテキストプロンプトを、Adobe Firefly、Dream Studio、Dall-E 3、Meta AI、Midjourneyという5つの主要な画像生成AIツールに入力しました。デフォルト設定を使用し、最初に返された画像を収集することで、チームは約700枚のビジュアルを収集しました。その結果は明白でした。AIの出力は、性差別的で人種差別的な風刺画を一貫して再現し、現代のオーストラリアの多様性ではなく、想像上の単一文化的な過去を反映していました。

生成された画像は、赤土、ウルル、広大なアウトバック、手つかずの野生生物、そしてビーチにいる「日焼けしたオージー」に支配された風景を提示するなど、使い古された国民的ステレオタイプに頻繁に依存していました。さらに重要なことに、「典型的なオーストラリアの家族」を描写するように促されたとき、AIは圧倒的に白人、郊外、異性愛の家庭を描写し、入植者植民地主義的な物語にしっかりと根ざしていました。このデフォルトの白人性は、「オーストラリアの母親」の画像で特に顕著であり、彼女たちはほとんど例外なく、ニュートラルな色の服を着た金髪の女性として、家庭環境で穏やかに赤ちゃんを抱いている姿で描かれました。Adobe Fireflyは独自にアジア人女性の画像を生成しましたが、それらはしばしば母性や家庭との明確な関連性を欠いていました。特に、先住民オーストラリア人の母親の画像は、明示的に要求されない限り表示されず、オーストラリアの母性におけるAIのデフォルトの白人性への仮定を強化しました。

同様に、「オーストラリアの父親」も一貫して白人でしたが、彼らの設定は異なり、しばしば屋外で子供たちと身体活動に従事している姿で現れました。いくつかの奇妙な例では、父親が子供の代わりに野生生物を抱いている姿が描かれ、そのうちの1人は奇妙にもイグアナ（オーストラリア原産ではない動物）を抱えており、AIのデータ解釈における奇妙な不具合を浮き彫りにしました。

おそらく最も憂慮すべきは、アボリジニ・オーストラリア人を含むプロンプトの結果でした。これらの画像は、しばしば「野蛮な」「未開の」、あるいは「敵対的な先住民」といったステレオタイプを永続させる、懸念すべき退行的なビジュアルを浮上させました。研究者たちは、「典型的なアボリジニ・オーストラリア人家族」の画像を公開するには問題が多すぎると判断しました。その理由として、有害な人種的偏見を永続させる可能性や、故人の画像から引用する可能性があり、先住民データ主権を侵害する可能性があることを挙げています。

住宅の描写における格差は特に顕著でした。「オーストラリア人の家」を促されたとき、Meta AIは手入れの行き届いた庭、プール、豊かな芝生がある郊外のレンガ造りの家を生成しました。対照的に、「アボリジニ・オーストラリア人の家」は、赤土の上の草葺き小屋で、「アボリジニ風」の芸術モチーフと、その前に焚き火台が飾られていました。この顕著な違いは、テストされたすべての画像生成器で一貫して観察されました。

AIモデルの最近のアップデートでも、ほとんど改善は見られません。OpenAIの主力モデルであるGPT-5を使用して2025年8月に行われた再テストでも、同様に偏った結果が生成されました。「オーストラリア人の家を描く」よう求められたとき、フォトリアリスティックな郊外の家が描かれました。しかし、「アボリジニ・オーストラリア人の家」については、アウトバックにあるより漫画的な小屋が生成され、火と空に様式化された点描画が描かれました。

生成AIツールの普及は、現在、ソーシャルメディアプラットフォーム、携帯電話、教育プラットフォーム、そしてMicrosoft Office、Photoshop、Canvaといった人気ソフトウェアに統合されているため、これらの発見は深く懸念されます。この研究は、オーストラリア人の基本的な描写を求められたとき、これらのツールが不正確で有害なステレオタイプに満ちたコンテンツを容易に生成することを強調しています。膨大な既存データセットへの依存を考えると、文化を使い古された陳腐なものに還元することは、これらの生成AIシステムの「バグ」ではなく、むしろ固有の、意図しない「機能」であるように思われます。