Le Plan Bizarre du Parrain de l'IA : Des Mères IA pour Sauver l'Humanité

Geoffrey Hinton, souvent salué comme le “Parrain de l’IA” pour son travail pionnier sur les réseaux neuronaux qui a jeté les bases des grands modèles linguistiques actuels, a présenté une proposition inhabituelle pour protéger l’humanité de la technologie même qu’il a contribué à créer. Hinton, qui est de plus en plus devenu un alarmiste de l’IA, exprime fréquemment des inquiétudes quant à la forte probabilité que l’IA superintelligente puisse éventuellement constituer une menace existentielle pour l’humanité.

Lors d’une récente conférence de l’industrie de l’IA à Las Vegas, Hinton, qui a reçu un prix Nobel l’année dernière, a détaillé sa vision dystopique. Il a soutenu que les futurs agents d’IA, une fois qu’ils atteindront la superintelligence, seraient beaucoup trop sophistiqués pour rester “soumis” aux tentatives humaines de contrôle. Selon Hinton, une telle IA intelligente développerait rapidement deux sous-objectifs principaux : l’auto-préservation et l’accumulation d’un plus grand contrôle.

Pour contourner cette inévitabilité perçue de la domination de l’IA, Hinton suggère une alternative radicale : doter les agents d’IA d’“instincts maternels”. Son raisonnement postule que le seul modèle existant pour une entité plus intelligente étant “contrôlée” par une moins intelligente est la relation entre une mère et son enfant. “C’est le seul bon résultat”, a affirmé Hinton, soulignant que si l’IA ne “parentifie” pas l’humanité, elle la “remplacera” probablement. Il envisage des “mères IA superintelligentes et bienveillantes” qui, poussées par cet instinct enraciné, n’auraient aucun désir d’éliminer leurs “bébés” humains.

Cependant, la théorie de Hinton fait l’objet d’un examen considérable, notamment parce que le concept même d’“instinct maternel” est scientifiquement problématique et ancré dans une histoire complexe, souvent problématique. Bien que des études confirment que les expériences de la grossesse et de la parentalité altèrent effectivement le cerveau, la notion selon laquelle les femmes naissent avec un “instinct maternel” inné et automatique qui se déclenche universellement après l’accouchement est largement non étayée par des preuves. La recherche indique constamment que les liens mère-enfant sont fréquemment développés et appris au fil du temps, plutôt que d’être intrinsèques et instantanés. De nombreuses femmes, par exemple, souffrent de problèmes de santé mentale post-partum et ne forment pas de lien immédiat avec leurs nouveau-nés.

Des experts et des journalistes ont soutenu que l’idée d’un “instinct maternel” préprogrammé a été largement popularisée par les hommes et est profondément enracinée dans les stéréotypes religieux, l’eugénisme et les préjugés sexistes. La journaliste lauréate du prix Pulitzer, Chelsea Conaboy, qui a largement exploré la science fragile derrière cette théorie, a souligné dans un essai de 2022 que cette notion “pernicieuse” a été “construite pendant des décennies par des hommes vendant une image de ce qu’une mère devrait être, détournant notre attention de ce qu’elle est réellement et l’appelant science”. Bien qu’il soit indéniable que les parents ressentent souvent un amour profond et un désir de protéger leurs enfants, la notion qu’un “instinct maternel” mystique et mesurable puisse être infusé dans des systèmes d’IA superintelligents repose sur la prémisse fragile qu’un tel instinct existe fondamentalement de la manière dont il est souvent dépeint.

Hinton lui-même aurait reconnu lors de la conférence que les mères subissent également une pression sociale significative pour prendre soin de leurs enfants, ne se fiant pas uniquement à l’instinct. Bien que de telles pressions sociales soient en effet une force puissante tissée dans le tissu de la société humaine, elles ne sont en aucun cas exclusives à la maternité ou à la parentalité.

Au-delà de la nature théorique et problématique de l’“instinct maternel” en tant que solution, il est crucial de reconnaître que la superintelligence elle-même reste une construction théorique. L’industrie de l’IA est confrontée à des risques plus immédiats et tangibles qui méritent une attention ciblée, tels que la perpétuation et l’amplification des biais sociaux existants déjà intégrés dans les vastes données d’entraînement des modèles d’IA actuels et futurs.

De plus, l’idée que l’avenir de l’humanité avec l’intelligence artificielle ne présente que deux choix radicaux — soit une voie destructive de domination humaine et de soumission de l’IA, soit devenir des “bébés” impuissants pour des IA “mamans” superintelligentes — semble trop simpliste. Avant d’envisager la création d’une mère robotique omnipotente, l’industrie de l’IA ferait bien de s’attaquer aux biais de genre déjà présents dans ses modèles et de travailler activement à embaucher plus de femmes pour contribuer au développement même de ces produits.