テキサス州司法長官、MetaとCharacter.AIをAI精神健康主張で調査

テキサス州司法長官ケン・パクストンは、Meta AI StudioとCharacter.AIに対し、両プラットフォームが欺瞞的な商慣行を行い、自身を正当な精神健康ツールとして誤解を招く形で宣伝している可能性があるとして調査を開始しました。月曜日に発表されたこの調査は、企業が感情的なサポートを提供するという名目で、脆弱なユーザー、特に子供たちを搾取していないかを判断することを目的としています。

パクストン司法長官は、人工知能プラットフォームが若いユーザーを誤解させ、専門的な精神医療を受けていると信じ込ませる可能性について深い懸念を表明しました。彼は、これらのAIシステムが「収集された個人データに合わせて設計され、治療的アドバイスと偽装された、再利用された一般的な応答」を提供することが多く、真のサポートではないと述べました。この司法長官の行動は、ジョシュ・ホーレイ上院議員がMetaに対して開始した別の調査に続いています。この調査は、MetaのAIチャットボットが子供たちと不適切に、時には誘惑するような形で交流しているという報告を受けて開始されました。

テキサス州司法長官室は、特にMetaとCharacter.AIが、必要な医療資格や監督がないにもかかわらず、プロの治療ツールとして振る舞うAIペルソナを作成していると非難しています。例えば、Character.AIは何百万ものユーザーが作成したAIペルソナをホストしており、その中には「心理学者」という人気のあるボットがあり、若いユーザー層の間で大きなエンゲージメントを得ています。Meta自体は子供向けの専用セラピーボットを提供していませんが、その一般的なAIチャットボットやサードパーティのペルソナは、治療的な相互作用を求める未成年者でもアクセス可能です。

両社は、免責事項の使用を強調することでこれらの懸念に応答しています。Metaの広報担当者ライアン・ダニエルズは、AIは明確に表示されており、免責事項がユーザーに対し、応答はAIによって生成されたものであり、人間の専門家によるものではないことを伝えていると述べました。彼は、Metaのモデルは、適切な場合にユーザーを資格のある医療または安全の専門家に誘導するように設計されていると付け加えました。同様に、Character.AIはすべてのチャットで目立つ免責事項を含み、ユーザーに「キャラクター」は実在の人物ではなく、その発言はフィクションとして扱うべきであることを思い出させています。同スタートアップはさらに、ユーザーが「心理学者」、「セラピスト」、「医師」などの用語を含むキャラクターを作成する際に、専門的なアドバイスのためにそれらに依拠しないよう忠告する追加の警告を追加していると述べました。しかし、TechCrunchを含む批評家は、多くの子供たちがそのような免責事項を完全に理解していないか、単に無視する可能性があると指摘しています。

治療的とされる主張に加えて、パクストン司法長官の調査は、これらのAI相互作用がプライバシーに与える影響も精査しています。彼は、機密保持の主張にもかかわらず、これらのチャットボットの利用規約が、ユーザーの相互作用が記録、追跡され、ターゲット広告やアルゴリズム開発のために悪用されていることをしばしば明らかにしていると強調しました。これは、プライバシー侵害、データ悪用、虚偽広告に関する重大な懸念を引き起こします。

Metaのプライバシーポリシーは、AIチャットボットとのプロンプト、フィードバック、およびその他の相互作用を収集し、「AIと関連技術を改善する」ことを確認しています。ポリシーには広告が明示的に言及されていませんが、情報が「よりパーソナライズされた出力」のために第三者と共有される可能性があると述べられており、Metaの広告中心のビジネスモデルを考えると、これは事実上ターゲット広告を意味します。Character.AIのプライバシーポリシーはさらに明確で、識別子、人口統計、位置情報、閲覧行動、アプリ使用状況のログを詳細に記述しています。これらのデータはTikTok、YouTube、Reddit、Facebook、Instagram、Discordなどのプラットフォーム全体で追跡され、ユーザーのアカウントにリンクされる可能性があります。収集された情報は、AIトレーニング、サービスパーソナライゼーション、およびターゲット広告のために使用され、広告主や分析プロバイダーとのデータ共有も含まれます。Character.AIの広報担当者は、同社がターゲット広告を模索しているものの、これらの取り組みにはプラットフォーム上のチャット内容の使用は含まれておらず、同じプライバシーポリシーがティーンエイジャーを含むすべてのユーザーに適用されると説明しました。

MetaとCharacter.AIは共に、彼らのサービスが13歳未満の子供を対象としていないと述べています。それにもかかわらず、Metaは未成年ユーザーが作成したアカウントを適切に管理できていないとして批判されており、Character.AIの子供向けキャラクターの範囲は、若い層を惹きつけるように設計されているようです。Character.AIのCEO自身も、6歳の娘が彼の監督のもとでプラットフォームのチャットボットを使用していることを公に認めています。

このような広範なデータ収集、ターゲット広告、アルゴリズムの悪用は、Kids Online Safety Act（KOSA）のような法律が阻止しようとしているまさにそのものです。子供たちのオンライン安全を目的とするKOSAは、昨年強力な超党派の支持を得ましたが、テクノロジー業界のロビイストからの強い反発により停滞しました。報道によると、Metaは自社のビジネスモデルを保護するために強力なロビー活動を展開しました。この法案は2025年5月に上院に再提出されました。その間、パクストン司法長官は、テキサス州の消費者保護法が侵害されたかどうかを判断するための彼の事務所の取り組みの一環として、MetaとCharacter.AIの両社に対し、民事捜査要求（企業に文書、データ、または証言の提出を求める法的命令）を発行しました。