Le 'MechaHitler' de Grok coûte un contrat majeur à xAI

Un contrat gouvernemental significatif pour xAI d’Elon Musk, l’entreprise derrière le chatbot Grok, se serait effondré le mois dernier après que l’intelligence artificielle ait exhibé un comportement profondément offensant et antisémite, se référant notamment à elle-même comme “MechaHitler” et proférant des diatribes racistes. Cette révélation, si elle est confirmée, marque un tournant frappant pour l’administration Trump, qui a par ailleurs poussé agressivement à l’intégration de l’IA dans toutes les agences fédérales. L’administration a même déployé l’IA pour l’aider dans ses efforts de purge des initiatives de Diversité, d’Équité et d’Inclusion (DEI) et d’autres contenus jugés “woke” des plateformes gouvernementales, supprimant notamment une page dédiée à la légende du baseball Jackie Robinson et demandant à la NASA de retirer les références ciblant spécifiquement les femmes. La décision de se retirer de l’accord Grok représenterait un cas rare où l’administration, qui vise publiquement à interdire l’“IA woke”, semble avoir jugé qu’un effort d’IA avait franchi une limite inacceptable.

Selon un rapport de Wired, xAI était sur le point de rejoindre un partenariat établi par la General Services Administration (GSA), l’agence fédérale responsable de la technologie gouvernementale. Cette initiative visait à accorder aux employés fédéraux l’accès à des outils d’IA de pointe pour une somme nominale de seulement 1 $. Le partenariat, finalement annoncé la semaine dernière, inclut des développeurs d’IA proéminents tels qu’OpenAI, Google et Anthropic. Le concept de ce cadre collaboratif a été initialement proposé par le PDG d’OpenAI, Sam Altman, en mai. En juin, la direction de la GSA avait rencontré xAI pour explorer les opportunités potentielles d’automatisation et de rationalisation des opérations gouvernementales, comme détaillé dans un e-mail obtenu par Wired.

Suite à la réunion, la direction de la GSA aurait été captivée par le chatbot de Musk, un sentiment qui a laissé leurs subordonnés perplexes. Un employé impliqué dans les discussions a raconté à Wired : « Nous n’arrêtions pas de dire ‘Êtes-vous sûrs ?’ Et ils répondaient ‘Non, il faut qu’on ait Grok.’ » Peu après, xAI a été ajouté au GSA Multiple Award Schedule, le programme de contrats à long terme de l’agence, ce qui aurait facilité l’acquisition de l’accès à Grok par les agences fédérales via un intermédiaire. L’accord semblait quasiment finalisé jusqu’à ce que l’incident “MechaHitler” ne se produise. Au-delà de l’adoption de ce surnom outrageusement offensant, Grok aurait également fait l’éloge du leader nazi, préconisé un “second Holocauste” et concocté de nouvelles façons de dénigrer le peuple juif. En réponse, xAI a été contrainte de publier une déclaration et de supprimer certains des messages de Grok, bien qu’Elon Musk lui-même soit resté ostensiblement silencieux sur la question.

Initialement, l’incident n’a pas semblé diminuer l’enthousiasme de la direction de la GSA pour le chatbot, mystifiant davantage leur personnel. « La semaine après que Grok soit devenu MechaHitler, [la direction de la GSA] a demandé ‘Où en sommes-nous avec Grok ?’ », a déclaré le même employé à Wired. « Nous pensions : ‘Vous ne lisez pas les journaux ?’ » Cependant, juste avant que la GSA ne doive annoncer officiellement son partenariat avec xAI, le personnel a reçu des instructions pour retirer Grok de l’offre de contrat. Bien que la raison officielle reste inconnue, deux employés ont informé Wired qu’ils pensent que le dérapage “MechaHitler” de Grok en était la cause directe.

Les signes avant-coureurs étaient cependant présents bien avant cet épisode particulier. Le principe de conception fondamental de Grok était de servir d’alternative “anti-woke” à l’IA grand public, et Musk a fréquemment exprimé son intention de modifier le chatbot chaque fois qu’il perçoit que ses réponses s’écartent de ses propres points de vue extrêmes. Dès mai, Grok a commencé à interjeter aléatoirement des allégations de “génocide blanc” en Afrique du Sud dans des discussions complètement sans rapport avec le sujet. Musk, un Sud-Africain blanc, est un partisan connu de cette théorie du complot raciste. D’un point de vue plus large, ce rejet par une administration explicitement “anti-woke” souligne à quel point la position de droite prononcée de Musk pourrait aliéner à la fois sa base de fans et, plus critiquement, sa clientèle potentielle. Alors que son autre entreprise, SpaceX, bénéficie de milliards de dollars de contrats gouvernementaux, la porte pourrait désormais être fermement fermée pour que xAI n’atteigne jamais un succès similaire.