Californie : Une loi contre la majoration des prix par IA des VTC

Les législateurs californiens s’apprêtent à aborder une intersection contentieuse entre la technologie et les droits des consommateurs, avec un projet de loi visant à empêcher les entreprises d’exploiter l’intelligence artificielle pour gonfler les prix en fonction des données personnelles. Au cœur du débat se trouve la pratique de la “tarification de surveillance”, où l’IA d’une entreprise pourrait déduire le désespoir ou la volonté d’un client de payer plus à partir d’informations stockées sur son téléphone, telles qu’une batterie dangereusement faible, un modèle d’appareil plus ancien, des applications installées, la localisation actuelle ou même l’adresse résidentielle.

La sénatrice démocrate Aisha Wahab de Hayward mène cet effort avec le projet de loi 259 du Sénat, qui cherche à interdire aux détaillants d’employer l’IA de cette manière. “Nos appareils sont instrumentalisés contre nous afin que les grandes entreprises augmentent leurs profits, et cela doit cesser”, a déclaré Wahab le mois dernier devant le Comité judiciaire de l’Assemblée. Son projet de loi fait partie d’une initiative législative plus large en Californie cette année visant à réglementer le domaine en plein essor de l’IA, rejoignant 29 autres propositions, y compris des mesures pour interdire aux systèmes algorithmiques de fixer les prix des loyers et pour protéger les individus de la discrimination automatisée dans les décisions critiques concernant l’emploi, le logement, les soins de santé et les condamnations pénales.

La mesure de la sénatrice Wahab a pris un élan considérable, en partie parce qu’elle s’aligne sur les promesses démocrates de réduire les coûts pour les Californiens après les élections, et surtout, elle bénéficie d’un soutien solide des influents syndicats de l’État. Ces syndicats, y compris la Fédération américaine des employés d’État, de comté et municipaux (AFSCME) et la Fédération du travail de Californie, ont collectivement contribué à hauteur d’au moins 8,5 millions de dollars aux législateurs au cours de la dernière décennie. Ils soutiennent que les augmentations de prix basées sur l’IA sont intrinsèquement discriminatoires et devraient être interdites. Ivan Fernandez, un lobbyiste de la Fédération du travail de Californie, a caractérisé la tarification de surveillance comme une “agression high-tech contre les travailleurs”, arguant qu’elle exacerbe le coût de la vie déjà élevé de l’État en permettant aux entreprises de “presser chaque centime qu’elles peuvent” des consommateurs.

Diverses organisations commerciales et technologiques, telles que la Chambre de commerce de Californie, TechNet et Chamber of Progress, s’opposent au projet de loi. Ces 17 groupes ont collectivement donné au moins 11,7 millions de dollars aux législateurs depuis 2015. Ils soutiennent que le SB 259 est inutile compte tenu des lois californiennes existantes sur la confidentialité des données, qu’il étoufferait l’innovation, éroderait les profits des entreprises technologiques et, en fin de compte, entraînerait des prix plus élevés pour les consommateurs. Ronak Daylami, analyste politique à la Chambre de Californie, a déclaré dans une lettre d’opposition que le projet de loi “obligerait injustement les entreprises à remanier leurs modèles et stratégies de tarification à un coût significatif, au détriment des entreprises elles-mêmes et de leurs consommateurs”.

Malgré cette opposition, le projet de loi a rencontré peu de résistance de la part des législateurs, passant facilement le Sénat californien et progressant à travers l’Assemblée avec un vote de 10 contre 4 au Comité judiciaire. La députée républicaine Diane Dixon de Huntington Beach est l’une des rares voix dissidentes, affirmant qu’une telle “surréglementation entrave notre façon de faire des affaires” et que “le marché résout ces problèmes”. Certains démocrates, comme les députés Chris Ward et Lori Wilson, ont soulevé des questions sur l’application et les exceptions potentielles pour les “utilisations légitimes” des données de géolocalisation, mais dans l’ensemble, Wahab a reçu un fort soutien. La députée Liz Ortega de Hayward, ancienne directrice politique d’un syndicat local de l’AFSCME, a comparé cette pratique au “redlining moderne”, évoquant les pratiques historiques de prêts discriminatoires. “Ce n’était pas acceptable à l’époque, et ce n’est pas acceptable aujourd’hui”, a déclaré Ortega, impliquant que sans garanties, les entreprises pourraient utiliser les données pour une discrimination de prix similaire.

La sénatrice Wahab, qui se décrit comme une “ancienne travailleuse de la technologie dans la Silicon Valley” et consultante en informatique d’entreprise, a mis à profit son expérience de l’industrie tout en s’alignant fortement sur les intérêts des travailleurs. Elle a dépeint les entreprises technologiques comme des entités axées sur le profit utilisant sans scrupules les données personnelles. Wahab a cité un rapport de ProPublica alléguant que Princeton Review facturait des prix plus élevés pour les cours de préparation au SAT en ligne dans les codes postaux à forte proportion de résidents asiatiques. Elle a également fait référence à un rapport de SFGate affirmant que les plateformes de réservation d’hôtels facturait aux utilisateurs de la région de la Baie jusqu’à 500 dollars de plus par nuit, et un rapport de Consumer Watchdog alléguant que les applications de covoiturage comme Uber et Lyft facturaient plus aux utilisateurs ayant une batterie de téléphone faible – une affirmation que les deux entreprises nient. Le porte-parole d’Uber, Zahid Arab, a déclaré que “les suggestions selon lesquelles nos systèmes manipulent les prix de manière injuste ou discriminatoire sont simplement fausses”, tandis que Shadawn Reddick-Smith de Lyft a affirmé que l’entreprise “ne base pas les tarifs sur le pourcentage de batterie”.

David Evan Harris, maître de conférences à la Haas School of Business de l’UC Berkeley et ancien responsable de recherche chez Meta, rejette les préoccupations des groupes d’affaires concernant l’étouffement de l’innovation comme étant “sauvagement exagérées”. Il soutient que “les industries ont construit un modèle commercial autour de la violation systématique de notre vie privée d’une manière que nous ne voulons pas et à laquelle nous ne consentons généralement pas”. Inversement, Robert Boykin de TechNet a noté que la loi californienne existante sur la confidentialité accorde déjà aux consommateurs des “droits significatifs”, y compris la possibilité de refuser la vente de données de géolocalisation précises et une protection contre la discrimination.

Le SB 259 devrait être examiné par l’Assemblée plénière après que les législateurs se seront réunis à la mi-août, et pourrait parvenir au bureau du gouverneur Gavin Newsom peu après. Newsom a historiquement maintenu une relation plus cordiale avec les entreprises technologiques que la Législature, ayant opposé son veto à plusieurs projets de loi de réglementation de l’IA l’année dernière, y compris des interdictions de camions autonomes et de robots armés, et une mesure obligeant les tests de modèles d’IA. Le gouverneur a récemment réuni un panel de dirigeants technologiques californiens pour identifier les inefficacités du gouvernement de l’État et aurait même envoyé des téléphones “jetables” à près de 100 dirigeants technologiques pour une communication confidentielle. Son bureau, cependant, a refusé de commenter la législation en attente.