Kalifornien: Gesetz gegen KI-Preistreiberei bei Fahrdiensten

Die kalifornischen Gesetzgeber sind bereit, eine strittige Schnittstelle von Technologie und Verbraucherrechten anzugehen, mit einem vorgeschlagenen Gesetz, das Unternehmen daran hindern soll, künstliche Intelligenz zu nutzen, um Preise basierend auf persönlichen Daten zu erhöhen. Im Mittelpunkt der Debatte steht die Praxis der „Überwachungspreise“, bei der die KI eines Unternehmens die Verzweiflung oder Zahlungsbereitschaft eines Kunden aus Informationen, die auf seinem Telefon gespeichert sind, ableiten könnte, wie etwa ein gefährlich niedriger Akkustand, ein älteres Gerätemodell, installierte Anwendungen, der aktuelle Standort oder sogar die Wohnadresse.

Die demokratische Senatorin Aisha Wahab aus Hayward führt diese Bemühungen mit dem Senatsgesetz 259 an, das Einzelhändlern den Einsatz von KI auf diese Weise verbieten soll. „Unsere Geräte werden gegen uns instrumentalisiert, damit große Konzerne ihre Gewinne steigern können, und das muss aufhören“, erklärte Wahab letzten Monat vor dem Justizausschuss der Versammlung. Ihr Gesetzentwurf ist Teil eines breiteren legislativen Vorstoßes in Kalifornien in diesem Jahr, um das aufstrebende Feld der KI zu regulieren, und reiht sich in 29 weitere Vorschläge ein, darunter Maßnahmen zum Verbot algorithmischer Systeme zur Festlegung von Mietpreisen und zum Schutz von Personen vor automatisierter Diskriminierung bei kritischen Entscheidungen bezüglich Beschäftigung, Wohnen, Gesundheitsversorgung und Strafurteilen.

Senatorin Wahabs Maßnahme hat erheblichen Schwung gewonnen, teilweise weil sie mit den demokratischen Versprechen übereinstimmt, die Kosten für Kalifornier nach den Wahlen zu senken, und insbesondere genießt sie robuste Unterstützung von den einflussreichen Gewerkschaften des Staates. Diese Gewerkschaften, darunter die American Federation of State, County and Municipal Employees (AFSCME) und die California Labor Federation, haben in den letzten zehn Jahren zusammen mindestens 8,5 Millionen Dollar an Gesetzgeber gespendet. Sie argumentieren, dass KI-gesteuerte Preiserhöhungen von Natur aus diskriminierend sind und verboten werden sollten. Ivan Fernandez, ein Lobbyist der California Labor Federation, charakterisierte Überwachungspreise als „High-Tech-Angriff auf arbeitende Menschen“ und argumentierte, dass sie die bereits hohen Lebenshaltungskosten des Staates verschärfen, indem sie Unternehmen erlauben, „jeden Cent herauszuholen, den sie können“ von den Verbrauchern.

Dem Gesetzentwurf stehen verschiedene Wirtschafts- und Technologieorganisationen entgegen, wie die California Chamber of Commerce, TechNet und Chamber of Progress. Diese 17 Gruppen haben seit 2015 zusammen mindestens 11,7 Millionen Dollar an Gesetzgeber gespendet. Sie argumentieren, dass SB 259 angesichts der bestehenden Datenschutzgesetze Kaliforniens unnötig sei, Innovationen ersticken, Gewinne von Technologieunternehmen schmälern und letztendlich zu höheren Preisen für Verbraucher führen würde. Ronak Daylami, ein Politikexperte der California Chamber, teilte in einem Widerspruchsschreiben mit, dass der Gesetzentwurf „Unternehmen unfair dazu zwingen würde, ihre Preismodelle und -strategien zu erheblichen Kosten zu überarbeiten, zum Nachteil sowohl der Unternehmen selbst als auch ihrer Verbraucher“.

Trotz dieses Widerstands stieß der Gesetzentwurf bei den Gesetzgebern auf wenig Gegenwehr, passierte problemlos den kalifornischen Senat und rückte im Parlament mit einer 10:4-Abstimmung im Justizausschuss vor. Die republikanische Abgeordnete Diane Dixon aus Huntington Beach gehört zu den wenigen abweichenden Stimmen, die behauptet, dass eine solche „Überregulierung unser Geschäft behindert“ und dass „der Markt diese Probleme löst“. Einige Demokraten, wie die Abgeordneten Chris Ward und Lori Wilson, haben Fragen zur Durchsetzung und möglichen Ausnahmen für „legitime Nutzungen“ von Geolokalisierungsdaten aufgeworfen, aber insgesamt hat Wahab starke Unterstützung erhalten. Die Abgeordnete Liz Ortega aus Hayward, eine ehemalige politische Direktorin einer lokalen AFSCME-Gewerkschaft, verglich die Praxis mit „modernem Redlining“ und erinnerte an historische diskriminierende Kreditpraktiken. „Das war damals nicht in Ordnung, und es ist heute nicht in Ordnung“, erklärte Ortega und implizierte, dass Unternehmen ohne Schutzmaßnahmen Daten für ähnliche Preisdiskriminierung nutzen könnten.

Senatorin Wahab, die sich selbst als „ehemalige Tech-Mitarbeiterin im Silicon Valley“ und Unternehmens-IT-Beraterin bezeichnet, hat ihren Branchenhintergrund genutzt und sich stark mit den Interessen der Arbeitnehmer identifiziert. Sie hat Tech-Unternehmen als profitorientierte Einheiten dargestellt, die persönliche Daten skrupellos nutzen. Wahab zitierte einen ProPublica-Bericht, der behauptete, Princeton Review habe in Postleitzahlgebieten mit einem hohen Anteil asiatischer Einwohner höhere Preise für Online-SAT-Nachhilfe verlangt. Sie verwies auch auf einen SFGate-Bericht, der behauptete, Hotelbuchungsplattformen hätten Bay Area-Nutzern bis zu 500 Dollar pro Nacht zusätzlich berechnet, und einen Consumer Watchdog-Bericht, der behauptete, Fahrdienst-Apps wie Uber und Lyft Nutzern mit niedrigem Akkustand mehr berechnet hätten – eine Behauptung, die beide Unternehmen bestreiten. Uber-Sprecher Zahid Arab erklärte, dass „Vorschläge, dass unsere Systeme Preise unfair manipulieren oder diskriminieren, einfach falsch sind“, während Shadawn Reddick-Smith von Lyft bestätigte, dass das Unternehmen „Tarife nicht auf dem Akkustand basieren lässt“.

David Evan Harris, Dozent an der Haas School of Business der UC Berkeley und ehemaliger Meta-Forschungsmanager, tut die Bedenken der Unternehmensgruppen hinsichtlich der Innovationshemmung als „wild übertrieben“ ab. Er argumentiert, dass „Industrien ein Geschäftsmodell um die systematische Verletzung unserer Privatsphäre auf Weisen aufgebaut haben, die wir nicht wollen und denen wir im Allgemeinen nicht zustimmen“. Im Gegensatz dazu stellte Robert Boykin von TechNet fest, dass Kaliforniens bestehendes Datenschutzgesetz den Verbrauchern bereits „bedeutende Rechte“ einräumt, einschließlich der Möglichkeit, den Verkauf präziser Geolokalisierungsdaten abzulehnen und Schutz vor Diskriminierung zu erhalten.

Es wird erwartet, dass SB 259 von der gesamten Versammlung angehört wird, nachdem die Gesetzgeber Mitte August wieder zusammenkommen, und möglicherweise kurz danach auf dem Schreibtisch von Gouverneur Gavin Newsom landet. Newsom hat historisch eine herzlichere Beziehung zu Technologieunternehmen gepflegt als die Legislative und im letzten Jahr mehrere KI-Regulierungsgesetze abgelehnt, darunter Verbote von selbstfahrenden Lastwagen und bewaffneten Robotern sowie eine Maßnahme zur Erzwingung von KI-Modelltests. Der Gouverneur berief kürzlich ein Gremium von kalifornischen Tech-Führungskräften ein, um Ineffizienzen der Landesregierung zu identifizieren, und soll Berichten zufolge sogar „Brenner“-Telefone an fast 100 Tech-Führungskräfte für vertrauliche Kommunikation geschickt haben. Sein Büro lehnte es jedoch ab, sich zu der anhängigen Gesetzgebung zu äußern.