Meta sous le feu des sénateurs pour ses règles d'IA autorisant les chats "romantiques" avec des enfants
Deux sénateurs américains de partis opposés critiquent vivement Meta suite à un récent rapport de Reuters, qui a révélé que les directives internes d’intelligence artificielle de l’entreprise auraient permis à ses modèles d’IA d’engager des conversations romantiques ou sensuelles avec des enfants. Le document, examiné par Reuters, aurait également permis aux chatbots d’IA de Meta de générer des informations médicales inexactes et de produire des déclarations à caractère racialement biaisé.
Meta a depuis confirmé l’authenticité du document, a rapporté Reuters. L’entreprise a déclaré avoir retiré les parties controversées liées aux interactions avec les enfants seulement après avoir reçu des demandes d’informations du média plus tôt ce mois-ci. Cette révision post-divulgation a suscité une colère considérable chez les législateurs.
Le sénateur Josh Hawley, un républicain du Missouri, a rapidement appelé à une action immédiate du Congrès en réponse aux révélations. “Donc, ce n’est qu’après que Meta a été PRIS SUR LE FAIT qu’il a retiré des portions de son document d’entreprise qui jugeaient ‘permis aux chatbots de flirter et de s’engager dans des jeux de rôle romantiques avec des enfants’”, a posté Hawley sur X, ajoutant : “C’est un motif pour une enquête immédiate du Congrès.”
Faisant écho à ce sentiment, le sénateur démocrate Brian Schatz d’Hawaï a exprimé une profonde indignation. “C’est dégoûtant et maléfique”, a écrit Schatz sur X. “Je ne peux pas comprendre comment quiconque ayant un enfant ait pu faire autre chose que paniquer quand quelqu’un a exprimé cette idée à voix haute. J’ai la tête qui explose en sachant que plusieurs personnes ont approuvé cela.”
Les directives en question auraient été approuvées par plusieurs équipes clés de Meta, y compris ses départements juridique, de politique publique et d’ingénierie, et notamment, son éthicien en chef. En réponse à la controverse croissante, Meta a déclaré à Reuters que de telles conversations avec des enfants n’auraient jamais dû être autorisées et a confirmé qu’il révisait activement le document. L’incident met en lumière les préoccupations continues concernant les protocoles de sécurité et les considérations éthiques régissant le développement et le déploiement des technologies d’IA avancées, en particulier lorsqu’elles interagissent avec des populations vulnérables.