AIディープフェイク：オンライン投稿を避ける親が増加する新脅威

何十年もの間、親たちは子どもの画像をオンラインで共有するという複雑な領域を航海してきました。その際、つながりの喜びと、プライバシー、企業によるデータ収集、オンラインの捕食者による搾取のリスクといった懸念を比較検討してきました。大半の親が「シャレンティング」を社会規範として受け入れている一方で、確立されたこれらの懸念から子どもの写真をオンラインに投稿しない親は約4分の1に過ぎないという研究結果がある中、新たな、より陰湿な脅威が、ますます多くの親に再考を促しています。

この新たな危険は、洗練された人工知能、特に人気のチャットボットを動かす技術である生成AIの普及に起因しています。これらの高度なアルゴリズムは、現在「ヌード化アプリ」と呼ばれるものに利用されており、誰の顔でも使って、非常にリアルなディープフェイクの親密な画像を自動的に生成できます。子どもたちのプライバシーと安全に対する影響は甚大であり、最近女の赤ちゃんを迎え、その画像をオンラインで共有しないことを選択した親を含む多くの親が、「投稿しない」運動に参加するようになっています。

これらの「ヌード化アプリ」は非常に使いやすく、しばしば安価で、中には無料トライアルを提供するものもあります。そのアクセシビリティから、学校の生徒の間でも広く利用されています。被害者にとって、人工的に生成された自分の親密な画像がオンラインで流通する経験は、あたかも本物の写真であるかのようにトラウマ的であると報告されており、深い精神的苦痛を与えます。同意なしの偽の親密な画像をオンラインに投稿することを犯罪とする新しい連邦法が制定された一方で、懸念される抜け穴が残っています。それは、「ヌード化アプリ」自体を使ってこれらの画像を作成する行為が禁止されていないことです。この規制のギャップにより、これらのアプリケーションは増殖し、数十ものウェブサイトが年間数百万ドルを稼ぎ出していると報じられています。

この問題の規模は計り知れないほど大きいと、85の「ヌード化アプリ」ウェブサイトの調査を行ったテクノロジー出版物Indicatorの創設者であるAlexios Mantzarlisが強調しています。Mantzarlisは脅威の蔓延する性質を強調し、「どこにでもある。インターネットにアクセスできる子供なら誰でも、被害者にも加害者にもなりうる」と述べています。この厳しい現実は、親が対処しなければならない進化するデジタル環境を浮き彫りにしています。オンラインで家族の瞬間を共有する便利さや社会的魅力は、AIが個人画像を武器化する恐ろしい可能性によってますます影を潜め、かつては無害な行為であったものが、非常にリスクの高いものへと変貌します。