カリフォルニア州、AIによる配車アプリの価格つり上げを規制

カリフォルニア州の議員たちは、テクノロジーと消費者権利の間に存在する論争の的となる交差点に取り組む準備ができています。提案されている法案は、企業が個人データに基づいて人工知能を利用して価格を吊り上げることを防ぐことを目指しています。議論の中心にあるのは「監視型価格設定」の慣行です。これは、企業のAIが、携帯電話に保存されている情報（例えば、バッテリー残量が危険なほど低い、古いデバイスモデル、インストールされているアプリケーション、現在の位置、さらには居住地の住所など）から、顧客の絶望やより多く支払う意欲を推測するものです。

ヘイワード出身の民主党上院議員アイシャ・ワハブは、この取り組みを上院法案259で主導しており、小売業者がこの方法でAIを使用することを禁止しようとしています。「私たちのデバイスは、大企業が利益を増やすために私たちに対して武器化されており、これを止めなければなりません」とワハブは先月、州議会司法委員会で述べました。彼女の法案は、今年カリフォルニア州で急成長するAI分野を規制するための広範な立法推進の一部であり、アルゴリズムシステムによる家賃設定の禁止や、雇用、住宅、医療、刑事判決に関する重要な決定における自動差別からの個人保護など、他の29の提案と並んでいます。

ワハブ上院議員の措置は大きな勢いを得ています。これは一部には、選挙後にカリフォルニア州民の費用を削減するという民主党の公約と一致しているためであり、特に州の有力な労働組合からの強力な支持を得ています。アメリカ州・郡・市職員労働組合（AFSCME）やカリフォルニア州労働組合連盟を含むこれらの組合は、過去10年間で合計850万ドル以上を議員に寄付しています。彼らは、AIによる価格上昇は本質的に差別的であり、違法にすべきだと主張しています。カリフォルニア州労働組合連盟のロビイストであるイヴァン・フェルナンデスは、監視型価格設定を「労働者に対するハイテク攻撃」と特徴づけ、企業が消費者から「可能な限りのあらゆるセントを絞り出す」ことを許すことで、州のすでに高い生活費を悪化させていると主張しました。

この法案に反対しているのは、カリフォルニア州商工会議所、TechNet、Chamber of Progressなどの様々なビジネス・テクノロジー団体です。これらの17団体は、2015年以来、議員に合計1170万ドル以上を寄付しています。彼らは、カリフォルニア州の既存のデータプライバシー法を考慮するとSB 259は不要であり、イノベーションを阻害し、テクノロジー企業の利益を侵食し、最終的には消費者の価格上昇につながると主張しています。カリフォルニア商工会議所の政策アナリストであるロナルク・デイラミは、反対書簡で、この法案が「企業に多大な費用をかけて価格モデルと戦略を不公平に改革させ、企業自身と消費者の両方に不利益をもたらすだろう」と伝えました。

この反対にもかかわらず、この法案は議員からの抵抗をほとんど受けておらず、カリフォルニア州上院を容易に通過し、司法委員会で10対4の投票で議会を通過しました。ハンティントンビーチ出身の共和党下院議員ダイアン・ディクソンは、数少ない反対意見の持ち主の一人であり、このような「過剰な規制はビジネスのやり方を妨げている」と主張し、「市場がこれらの問題を解決する」と述べています。クリス・ワード下院議員やロリ・ウィルソン下院議員のような一部の民主党員は、ジオロケーションデータの「正当な使用」の実施と潜在的な例外について疑問を呈しましたが、全体として、ワハブは強力な支持を受けています。ヘイワード出身のリズ・オルテガ下院議員（元AFSCME地方組合の政治部長）は、この慣行を「現代のレッドライニング」になぞらえ、歴史的な差別的な貸付慣行を想起させました。「当時は許されなかったし、今も許されない」とオルテガは述べ、保護措置がなければ企業がデータを同様の価格差別に使用する可能性があることを示唆しました。

ワハブ上院議員は、自身を「シリコンバレーの元テックワーカー」であり、ビジネスITコンサルタントであると説明しており、自身の業界経験を活用しながら、労働者の利益と強く連携しています。彼女はテック企業を、個人データを不当に利用して利益を追求する存在として描いています。ワハブは、ProPublicaのレポートを引用し、Princeton Reviewがアジア系住民の割合が高い郵便番号地域でオンラインSAT指導の価格を高く設定していたと主張しました。彼女はまた、SFGateのレポートを参照し、ホテル予約プラットフォームがベイエリアのユーザーに1泊あたり最大500ドルを上乗せしていたと主張し、Consumer Watchdogのレポートを引用し、UberやLyftなどの配車アプリが携帯電話のバッテリー残量が低いユーザーにより高額な料金を請求していたと主張しました。しかし、これらの主張は両社によって否定されています。Uberの広報担当者ザヒド・アラブは、「当社のシステムが不公平に価格を操作したり、差別したりするという示唆は単に虚偽である」と述べ、Lyftのシャドーン・レディック・スミスは、同社が「バッテリー残量に基づいて運賃を決定していない」ことを確認しました。

UCバークレーのハースビジネススクールの講師で元Meta研究マネージャーのデビッド・エヴァン・ハリスは、ビジネス団体がイノベーションを阻害するという懸念を「とんでもなく誇張されている」と一蹴しています。彼は「産業界は、私たちが望まない方法で、そして一般的に同意しない方法で、私たちのプライバシーを体系的に侵害するビジネスモデルを構築してきた」と主張しています。逆に、TechNetのロバート・ボーイキンは、カリフォルニア州の既存のプライバシー法がすでに消費者に「意味のある権利」を与えていることを指摘しました。これには、正確なジオロケーションデータの販売をオプトアウトする能力や、差別からの保護が含まれます。

SB 259は、議員が8月中旬に再招集された後、全体議会で審議される予定であり、その後すぐにギャビン・ニューサム州知事の元に届く可能性があります。ニューサム知事は歴史的に、州議会よりもテクノロジー企業と友好的な関係を維持しており、昨年は自動運転トラックや武装ロボットの禁止、AIモデルのテストを義務付ける措置など、いくつかのAI規制法案に拒否権を行使しました。知事は最近、カリフォルニア州のテクノロジー幹部を集めたパネルを招集し、州政府の非効率性を特定するとともに、機密通信のために約100人のテクノロジー幹部に「使い捨て」携帯電話を送ったと報じられています。しかし、彼の事務所は係争中の法案についてコメントを拒否しています。