California: Proyecto de Ley Contra Precios Abusivos por IA en Apps de Viajes

Los legisladores de California están a punto de abordar una controvertida intersección entre la tecnología y los derechos del consumidor, con un proyecto de ley propuesto que busca evitar que las empresas aprovechen la inteligencia artificial para inflar los precios basándose en datos personales. En el centro del debate se encuentra la práctica de la “fijación de precios por vigilancia”, donde la IA de una empresa podría inferir la desesperación o la disposición de un cliente a pagar más a partir de información almacenada en su teléfono, como una batería peligrosamente baja, un modelo de dispositivo antiguo, aplicaciones instaladas, la ubicación actual o incluso la dirección residencial.

La senadora demócrata Aisha Wahab de Hayward está liderando este esfuerzo con el Proyecto de Ley 259 del Senado, que busca prohibir a los minoristas emplear la IA de esta manera. “Nuestros dispositivos están siendo utilizados como armas contra nosotros para que las grandes corporaciones aumenten sus ganancias, y esto tiene que parar”, declaró Wahab el mes pasado ante el Comité Judicial de la Asamblea. Su proyecto de ley forma parte de un impulso legislativo más amplio en California este año para regular el floreciente campo de la IA, uniéndose a otras 29 propuestas, incluidas medidas para prohibir que los sistemas algorítmicos fijen los precios del alquiler y para proteger a los individuos de la discriminación automatizada en decisiones críticas relacionadas con el empleo, la vivienda, la atención médica y las sentencias penales.

La medida de la senadora Wahab ha ganado un impulso significativo, en parte porque se alinea con las promesas demócratas de reducir los costos para los californianos después de las elecciones, y notablemente, cuenta con un sólido apoyo de los influyentes sindicatos del estado. Estos sindicatos, incluida la Federación Americana de Empleados Estatales, del Condado y Municipales (AFSCME) y la Federación Laboral de California, han contribuido colectivamente con al menos 8.5 millones de dólares a los legisladores durante la última década. Argumentan que los aumentos de precios impulsados por la IA son inherentemente discriminatorios y deberían ser ilegalizados. Iván Fernández, cabildero de la Federación Laboral de California, caracterizó la fijación de precios por vigilancia como un “asalto de alta tecnología a la gente trabajadora”, argumentando que exacerba el ya alto costo de vida del estado al permitir que las empresas “expriman cada centavo que puedan” de los consumidores.

Se oponen al proyecto de ley varias organizaciones empresariales y tecnológicas, como la Cámara de Comercio de California, TechNet y Chamber of Progress. Estos 17 grupos han donado colectivamente al menos 11.7 millones de dólares a los legisladores desde 2015. Argumentan que la SB 259 es innecesaria dadas las leyes de privacidad de datos existentes en California, sofocaría la innovación, erosionaría las ganancias de las empresas tecnológicas y, en última instancia, llevaría a precios más altos para los consumidores. Ronak Daylami, analista de políticas de la Cámara de California, comunicó en una carta de oposición que el proyecto de ley “causaría injustamente que las empresas revisaran sus modelos y estrategias de precios a un costo significativo, en detrimento tanto de las propias empresas como de sus consumidores”.

A pesar de esta oposición, el proyecto de ley ha enfrentado poca resistencia de los legisladores, aprobando fácilmente el Senado de California y progresando a través de la Asamblea con una votación de 10 a 4 en el Comité Judicial. La asambleísta republicana Diane Dixon de Huntington Beach se encuentra entre las pocas voces disidentes, afirmando que tal “sobrerregulación está impidiendo cómo hacemos negocios” y que “el mercado resuelve estos problemas”. Algunos demócratas, como los asambleístas Chris Ward y Lori Wilson, han planteado preguntas sobre la aplicación y las posibles excepciones para “usos legítimos” de los datos de geolocalización, pero en general, Wahab ha recibido un fuerte respaldo. La asambleísta Liz Ortega de Hayward, ex directora política de un sindicato local de AFSCME, comparó la práctica con el “redlining moderno”, evocando las históricas prácticas de préstamos discriminatorios. “No estaba bien entonces, y no está bien hoy”, afirmó Ortega, implicando que sin salvaguardias, las empresas podrían usar datos para una discriminación de precios similar.

La senadora Wahab, quien se describe a sí misma como una “antigua trabajadora tecnológica en Silicon Valley” y consultora de TI empresarial, ha aprovechado su experiencia en la industria mientras se alinea firmemente con los intereses laborales. Ha pintado a las empresas tecnológicas como entidades impulsadas por el lucro que utilizan los datos personales sin escrúpulos. Wahab citó un informe de ProPublica que alegaba que Princeton Review cobraba precios más altos por la tutoría en línea del SAT en códigos postales con un alto porcentaje de residentes asiáticos. También hizo referencia a un informe de SFGate que afirmaba que las plataformas de reserva de hoteles cobraban a los usuarios del Área de la Bahía hasta 500 dólares más por noche, y un informe de Consumer Watchdog que alegaba que las aplicaciones de transporte como Uber y Lyft cobraban más a los usuarios con baterías de teléfono bajas, una afirmación que ambas empresas niegan. El portavoz de Uber, Zahid Arab, declaró que “las sugerencias de que nuestros sistemas manipulan los precios de manera injusta o discriminan son simplemente falsas”, mientras que Shadawn Reddick-Smith de Lyft afirmó que la empresa “no basa las tarifas en el porcentaje de batería”.

David Evan Harris, profesor de la Haas School of Business de UC Berkeley y ex gerente de investigación de Meta, desestima las preocupaciones de los grupos empresariales sobre la sofocación de la innovación como “salvajemente exageradas”. Sostiene que “las industrias han construido un modelo de negocio en torno a la violación sistemática de nuestra privacidad de maneras que no queremos y, en general, no consentimos”. Por el contrario, Robert Boykin de TechNet señaló que la ley de privacidad existente en California ya otorga a los consumidores “derechos significativos”, incluida la capacidad de optar por no vender datos de geolocalización precisos y protección contra la discriminación.

Se espera que la SB 259 sea escuchada por la Asamblea en pleno después de que los legisladores se reúnan a mediados de agosto, y podría llegar al escritorio del gobernador Gavin Newsom poco después. Newsom ha mantenido históricamente una relación más cordial con las empresas tecnológicas que la Legislatura, habiendo vetado varios proyectos de ley de regulación de IA el año pasado, incluidas prohibiciones de camiones autónomos y robots armados, y una medida que obligaba a probar modelos de IA. El gobernador convocó recientemente un panel de ejecutivos tecnológicos de California para identificar ineficiencias del gobierno estatal y, según se informa, incluso envió teléfonos “quemadores” a casi 100 ejecutivos tecnológicos para una comunicación confidencial. Sin embargo, su oficina se ha negado a comentar sobre la legislación pendiente.