Meta recrute un activiste anti-DEI pour corriger les biais de son IA

Dans un développement significatif pour le paysage évolutif de l’intelligence artificielle et de la politique d’entreprise, Meta a nommé l’activiste conservateur Robby Starbuck comme conseiller pour aborder les “biais idéologiques et politiques” au sein de son chatbot IA. Cette décision fait partie d’un règlement conclu après que Starbuck ait intenté un procès alléguant que Meta AI l’avait faussement lié à l’émeute du Capitole du 6 janvier.

Starbuck a acquis une grande notoriété grâce à des campagnes de pression publique contre des entreprises ayant des programmes de diversité, d’équité et d’inclusion (DEI). Ses efforts auraient conduit plusieurs entreprises de premier plan, dont Tractor Supply, John Deere et Harley-Davidson, à abandonner leurs initiatives DEI. Le procès contre Meta découle d’un incident où un concessionnaire Harley-Davidson aurait partagé une capture d’écran du chatbot IA de Meta, qui déclarait incorrectement l’implication de Starbuck dans l’émeute du Capitole et l’associait à QAnon.

La décision d’intégrer Starbuck intervient dans un climat politique plus large de plus en plus axé sur les biais perçus de l’IA, y compris un récent décret de l’ancien président Donald Trump visant à rendre l’IA moins “woke”. Dans une déclaration conjointe fournie au Wall Street Journal, Meta et Starbuck ont affirmé : “Depuis que nous nous sommes engagés sur ces questions importantes avec Robby, Meta a fait d’énormes progrès pour améliorer la précision de Meta AI et atténuer les biais idéologiques et politiques.”

Bien que les termes du règlement n’aient pas été entièrement divulgués, Starbuck a refusé de commenter lors d’une interview avec CNBC si Meta avait fourni une compensation financière pour résoudre le procès. Il a souligné les implications plus larges des biais de l’IA, déclarant : “Je suis une personne, mais cela pourrait causer beaucoup de problèmes dans toute l’industrie en ce qui concerne les élections et les biais politiques, et nous voulions être des leaders dans la résolution de ce problème.” Ce n’est pas le premier règlement de haut niveau de Meta lié à des figures politiques ; plus tôt cette année, l’entreprise a payé 25 millions de dollars pour résoudre un procès de 2021 intenté par Donald Trump concernant la suspension de ses comptes de médias sociaux.

Le problème des chatbots IA générant des informations fausses ou diffamatoires n’est pas unique à Meta. En 2023, l’animateur de radio conservateur Mark Walters a intenté un procès contre OpenAI, alléguant que son modèle ChatGPT avait faussement affirmé qu’il était accusé de détournement de fonds d’une organisation à but non lucratif. Cependant, dans ce cas, un juge a accordé un jugement sommaire en faveur d’OpenAI, rejetant la plainte en diffamation en mai.

La décision de Meta d’enrôler Starbuck comme conseiller IA souligne les défis complexes auxquels les entreprises technologiques sont confrontées pour naviguer dans la perception publique, la pression politique et les biais inhérents qui peuvent émerger des grands modèles linguistiques. Alors que l’IA continue de s’intégrer plus profondément dans la vie quotidienne, assurer sa précision et sa neutralité perçue reste un effort critique, et souvent controversé, pour l’industrie.