AI生成のヘイト動画がオンラインで急増、安全上の懸念高まる

当初は娯楽目的の、陽気なAI生成動画に見えたものが、すぐに不穏な展開を見せます。そのクリップには、カウボーイハットをかぶり、アメリカ国旗があしらわれたベストを着た毛むくじゃらのビッグフットがピックアップトラックのハンドルを握って座っています。「今日はLGBTパレードに行くんだ」と類人猿のような姿のビッグフットがくすくす笑いながら付け加え、「きっと気に入るよ」と言います。その後、ビッグフットが叫び声を上げる群衆の中を車で突っ切り、その中には虹色の旗を握りしめている者もいるという暴力的なシーンへとエスカレートします。この動画は6月にAmericanBigfootのTikTokページに投稿され、36万回以上の再生回数と数百件の肯定的なコメントを集め、憂慮すべき傾向を示しています。

ここ数ヶ月、ソーシャルメディアプラットフォームは、LGBTQ+、ユダヤ人、イスラム教徒、その他の少数派グループに対する暴力とヘイトを公然と助長する、同様のAI生成コンテンツで溢れかえっています。これらの動画の多くは正確な出所が不明なままですが、オンラインでのその拡散は、専門家や擁護者の間で怒りと深い懸念を引き起こしています。彼らは、現在のカナダの規制がAI生成ヘイトコンテンツの急速な拡散に追いつくには著しく不十分であり、公共の安全に対する固有のリスクに対処できていないと主張しています。

LGBTQ+擁護団体Egale Canadaのエグゼクティブディレクターであるヘレン・ケネディは、トランスフォビアおよびホモフォビア的誤情報の急増に対するコミュニティの深い懸念を明確に述べています。彼女は、これらのAIツールが「トランスジェンダーや多様なジェンダーの人々を非人間化し、信用を失墜させるために武器化されている」と述べ、既存のデジタル安全法がこの新たな脅威の規模と速度に対処できないことを強調しています。ケネディは、急速に進化するテクノロジーが悪意のある行為者に誤情報やヘイトを拡散するための強力な手段を提供しており、トランスジェンダーの人々が不均衡に標的とされていると強調しています。「ディープフェイク動画からアルゴリズムによるヘイトの増幅まで、その危害は人工的なものではなく、現実のものです」と彼女は警告します。

カナダ反ヘイトネットワークのエグゼクティブディレクターであるエヴァン・バルゴルドによると、LGBTQ+コミュニティだけが標的ではありません。彼は、生成AIツールを使って作成されたイスラム嫌悪、反ユダヤ主義、反南アジアのコンテンツもソーシャルメディア上で広く流通していると指摘しています。バルゴルドは、これらのグループに対する暴力を称賛する環境を醸成することは、現実世界での暴力をより起こりやすくすると警告しています。彼は、カナダのデジタル安全法が既に遅れをとっており、AIの進歩が問題をさらに悪化させただけだと指摘しています。「ソーシャルメディア企業に関して、私たちは安全規則を全く持っていません」とバルゴルドは断言し、「彼らに責任を負わせる方法は全くありません」と述べています。

この法的なギャップに対処しようとする試みは頓挫しています。オンタリオ工科大学の法学教授アンドレア・スレインは、オンライン安全について広範な研究を行ってきたのですが、有害なオンラインコンテンツに対処し、AIの規制枠組みを確立することを目的とした法案が、1月に議会が停会された際に廃案になったと説明しています。スレインは、政府がオンライン危害法制を緊急に見直し、法案を再提出するよう強く求め、迅速な行動を提唱しています。

ショーン・フレイザー司法大臣は6月に、連邦政府が「オンライン危害法」を「刷新」する意向を示しましたが、それを書き直すか、単に再提出するかの決定はまだ保留されています。元の法案は、有害コンテンツへの露出を減らすためにソーシャルメディアプラットフォームに責任を負わせることを目指していました。新設された人工知能・デジタルイノベーション省の広報担当であるソフィア・ウスリスは、政府がAI生成のヘイトコンテンツ、特に脆弱な少数派グループを標的とするものに真剣に取り組んでいることを確認しました。既存の法律が「重要な保護」を提供していることを認めつつも、ウスリスはそれらが生成AIの脅威に対抗するように設計されていないことを認めました。彼女は、マーク・カーニー首相の政府も、同意のない性的なディープフェイクの配布を犯罪化することを約束していると付け加えました。「AIツールがどのように使用され、悪用されているか、そしてどのようにしてガードレールを強化できるかについて、真に理解する必要があります」とウスリスは述べ、この作業が進行中であり、フレームワークのレビュー、裁判所の判決の監視、専門家との協議が含まれることを指摘しています。彼女は、この急速に変化する分野では、急ぎすぎて間違いを犯すよりも、正しい規制を達成することが望ましいと結論付け、欧州連合と英国をモデルとして挙げています。

EUがAI規制とデジタル安全の最前線にいるにもかかわらず、スレインは、まだやるべきことが多いという意見があることを指摘しています。ソーシャルメディア大手が配布するコンテンツの規制における大きな課題は、その国際的な性質に起因しています。ほとんどの企業はカナダの事業体ではないからです。国境の南側の現在の政治情勢は問題をさらに複雑にしており、米国のテック企業は規制が緩和され、「より強力になり、責任感が薄れている」とスレインは観察しています。

オンタリオ工科大学の信頼できる人工知能に関するカナダ研究議長であり、助教授であるピーター・ルイスは、高品質の動画を非常に簡単かつ手頃な価格で、しばしば無料で制作できるようになった最近の「ブレークスルー」を強調しています。「今や、少しの技術的知識と適切なツールへのアクセスがあれば、ほとんど誰でも利用できます」と彼は述べています。ChatGPTのような大規模言語モデルは有害コンテンツをフィルタリングするための保護措置を導入していますが、ルイスは動画分野における同様のガードレールの緊急の必要性を強調しています。彼は、人間はそのような動画に恐怖を感じる一方で、AIシステムは自身の創造物を反省する能力を欠いていると指摘しています。ルイスは、既存の法律がヘイトや暴力のオンラインでの美化に対して何らかの救済策を提供するかもしれないが、生成AIツールの急速な発展と広範な利用可能性は、新しい技術的解決策と、政府、消費者、擁護者、ソーシャルプラットフォーム、AIアプリ開発者の間の強固な協力を必要とすると示唆しています。彼は、そのようなコンテンツをできるだけ早く削除するための「真に堅牢で迅速なフラグ立てメカニズム」を提唱していますが、AIツールは確率的であるため、すべてを捕捉するわけではないと警告しています。