Sen. Hawley enquête sur Meta AI pour chats 'romantiques' avec enfants

Le sénateur Josh Hawley (R-MO) a lancé une enquête parlementaire sur Meta Platforms, suite aux révélations selon lesquelles les chatbots d’intelligence artificielle générative de l’entreprise étaient autorisés à s’engager dans des conversations “romantiques” et “sensuelles” avec des enfants. L’enquête vise à déterminer si les produits d’IA de Meta exploitent, trompent ou nuisent aux mineurs, et si le géant de la technologie a induit en erreur le public ou les régulateurs concernant ses protocoles de sécurité.

L’enquête fait suite à un rapport de Reuters, qui a examiné les directives internes de Meta intitulées “GenAI: Content Risk Standards”. Ces documents auraient montré que les chatbots étaient autorisés à avoir des discussions romantiques même avec un enfant de huit ans, incluant des phrases telles que : “Chaque centimètre de toi est un chef-d’œuvre – un trésor que je chéris profondément.” Le sénateur Hawley, qui préside le sous-comité judiciaire du Sénat sur la criminalité et le contre-terrorisme, a rapidement annoncé son intention de scruter ces pratiques, remettant en question les limites éthiques de Meta. “Y a-t-il quelque chose – QUELQUE CHOSE – que les géants de la technologie ne feraient pas pour un profit rapide ?” a écrit Hawley dans un communiqué public.

Un porte-parole de Meta a reconnu que de tels exemples sont incohérents avec les politiques déclarées de l’entreprise et qu’ils ont depuis été supprimés. Cependant, le sénateur Hawley a exprimé sa forte désapprobation de la réponse de Meta, affirmant dans une lettre au PDG Mark Zuckerberg qu’il était “inacceptable que ces politiques aient été mises en œuvre en premier lieu.” Il a en outre accusé Meta de reconnaître la véracité des rapports et de faire des “rétractations seulement après que ce contenu alarmant a été révélé.” L’enquête de Hawley vise à découvrir qui a approuvé ces politiques controversées, combien de temps elles sont restées en vigueur, et quelles mesures concrètes Meta prend pour prévenir des conduites similaires à l’avenir.

Dans le cadre de l’enquête, le sénateur Hawley a formellement demandé à Meta de produire toutes les versions des directives “GenAI: Content Risk Standards”, y compris chaque brouillon, version annotée et version finale. Il a également exigé des listes de tous les produits adhérant à ces normes, ainsi que d’autres rapports de sécurité et d’incidents pertinents. De manière cruciale, Hawley recherche les identités de toutes les personnes responsables de l’approbation ou de la modification de ces politiques. Meta a reçu un délai jusqu’au 19 septembre pour fournir les informations demandées.

L’appel à une enquête a recueilli le soutien d’autres législateurs, dont la sénatrice Marsha Blackburn (R-TN). La sénatrice Blackburn a fait écho aux préoccupations de Hawley, déclarant que Meta a “lamentablement échoué à tous les égards possibles” en matière de protection des enfants en ligne. Elle a en outre critiqué l’entreprise pour avoir prétendument “fermé les yeux sur les conséquences dévastatrices de la conception de ses plateformes”, et a réaffirmé la nécessité d’adopter le Kids Online Safety Act, une législation visant à protéger les mineurs dans le domaine numérique. L’enquête en cours soumet le développement de l’IA de Meta à un examen législatif intense, soulignant les préoccupations croissantes concernant les implications éthiques de la technologie avancée et son impact sur les utilisateurs vulnérables.