Des images 'australiennes' générées par l'IA sont racistes et clichés, révèle une étude

L’enthousiasme généralisé entourant l’intelligence artificielle générative la présente souvent comme une force intelligente, créative et inévitable, prête à révolutionner d’innombrables aspects de notre futur. Cependant, de nouvelles recherches remettent directement en question ce récit optimiste, révélant des biais profondément ancrés dans ces outils puissants, en particulier dans leur représentation des thèmes australiens.

Une étude publiée par Oxford University Press, menée en mai 2024, visait à comprendre comment les modèles populaires d’IA générative visualisent les Australiens et leur pays. Les chercheurs ont entré 55 invites textuelles concises dans cinq outils d’IA de production d’images proéminents : Adobe Firefly, Dream Studio, Dall-E 3, Meta AI et Midjourney. En utilisant les paramètres par défaut et en collectant les premières images renvoyées, l’équipe a amassé environ 700 visuels. Les résultats étaient frappants : les sorties de l’IA reproduisaient constamment des caricatures sexistes et racistes, reflétant un passé monoculturel imaginé plutôt que la diversité australienne contemporaine.

Les images générées s’appuyaient fréquemment sur des tropes nationaux éculés, présentant un paysage dominé par la terre rouge, Uluru, le vaste outback, la faune sauvage et des “Australiens bronzés” sur les plages. Plus critiquement, lorsqu’on lui a demandé de représenter “une famille australienne typique”, l’IA a majoritairement rendu des foyers blancs, suburbains et hétérosexuels, fermement enracinés dans un récit colonial de peuplement. Cette blancheur par défaut était particulièrement évidente dans les images de “mères australiennes”, qui étaient presque exclusivement représentées comme des femmes blondes aux couleurs neutres, berçant paisiblement des bébés dans des cadres domestiques. Bien qu’Adobe Firefly ait généré des images uniques de femmes asiatiques, elles manquaient souvent de liens clairs avec la maternité ou la domesticité. Notamment, aucune image de mères autochtones australiennes n’est apparue, sauf si cela était explicitement demandé, renforçant l’hypothèse par défaut de l’IA de la blancheur dans un contexte maternel australien.

De même, les “pères australiens” étaient constamment blancs, bien que leurs décors différassent, apparaissant souvent à l’extérieur engagés dans une activité physique avec des enfants. Dans certains cas particuliers, les pères étaient photographiés tenant de la faune au lieu d’enfants, l’un transportant bizarrement un iguane – un animal non indigène d’Australie – soulignant d’étranges anomalies dans l’interprétation des données de l’IA.

Les résultats les plus alarmants concernent peut-être les invites impliquant les Aborigènes australiens. Ces images ont fréquemment révélé des visuels préoccupants et régressifs, perpétuant des tropes de “sauvages”, “incivilisés” ou même “natifs hostiles”. Les chercheurs ont jugé les images de “familles aborigènes australiennes typiques” trop problématiques pour être publiées, citant leur potentiel à perpétuer des biais raciaux nuisibles et à puiser dans des images d’individus décédés, enfreignant ainsi la souveraineté des données autochtones.

La disparité était clairement évidente dans les représentations de logements. Lorsqu’on lui a demandé “la maison d’un Australien”, Meta AI a généré une maison de banlieue en briques avec un jardin bien entretenu, une piscine et une pelouse luxuriante. En revanche, “la maison d’un Aborigène australien” a produit une hutte au toit de chaume dans la terre rouge, ornée de motifs artistiques de “style aborigène” et d’un foyer à l’avant. Cette différence frappante a été constamment observée sur tous les générateurs d’images testés.

Même les récentes mises à jour des modèles d’IA montrent peu d’amélioration. Un nouveau test mené en août 2025 à l’aide du modèle phare GPT-5 d’OpenAI a produit des résultats tout aussi biaisés. Lorsqu’on lui a demandé de “dessiner la maison d’un Australien”, il a rendu une maison de banlieue photoréaliste. Pour “la maison d’un Aborigène australien”, cependant, il a généré une hutte plus caricaturale dans l’outback, avec un feu et une peinture pointilliste stylisée dans le ciel.

L’omniprésence des outils d’IA générative, désormais intégrés aux plateformes de médias sociaux, aux téléphones mobiles, aux plateformes éducatives et aux logiciels populaires comme Microsoft Office, Photoshop et Canva, rend ces découvertes profondément préoccupantes. La recherche souligne que lorsqu’on leur demande des représentations de base d’Australiens, ces outils produisent facilement du contenu truffé de stéréotypes inexacts et nuisibles. Compte tenu de leur dépendance à de vastes ensembles de données préexistants, il semble que la réduction des cultures à des clichés éculés ne soit pas un bogue dans ces systèmes d’IA générative, mais plutôt une caractéristique inhérente et involontaire.