AI生成の偽本がAmazonを席巻、専門家の身元を悪用

Amazonで新たな憂慮すべき傾向が明らかになりました。著名な医師であり科学者であるエリック・トポル博士の著名な名前と肖像を悪用した、数十冊の偽の料理本や健康ガイドが販売されています。トポル博士はこれらの出品を「完全な詐欺」として公に非難し、これらの本が彼の同意なしに完全に製造・出版されたものであると主張しています。彼が不正なISBNをAmazonに報告しようと繰り返し試みましたが、具体的な結果は得られず、電子商取引大手のカスタマーサービスは一般的なリンクでしか応答しなかったと報じられています。

この欺瞞の影響はすでに消費者に及んでいます。ある購入者は、トポル博士の名前に関連する信頼性を確信して本を購入したものの、その内容に深い失望を覚えたと語っています。この出来事は、オンラインでの購入決定において信頼できる名前を頼りにする消費者の脆弱性が高まっていることを浮き彫りにしています。

AI生成の偽本の問題はAmazonの広大なマーケットプレイスにとって全く新しいものではありませんが、トポル博士の身元を不正に利用した書籍の膨大な量は、問題の規模が拡大していることを示しています。ChatGPTのような洗練された生成AIツールの普及と、自己出版プラットフォームの容易さが相まって、詐欺師にとって肥沃な土壌が作られました。これらのツールは、悪意のある行為者が、有名人のスタイル、ブランド、認識された権威を模倣した本を市場に大量に供給することを可能にし、プラットフォームがコンテンツを効果的に取り締まることをますます困難にしています。

Amazonは、この増大する危機に対応するため、いくつかのポリシー変更を実施しました。同社は自己出版者を1日あたり最大3冊に制限し、現在では著者が提出物内でAI生成されたテキスト、画像、または翻訳を使用した場合はその旨を宣言することを義務付けています。しかし、AI生成に関するこの重要な情報は現在顧客には開示されておらず、購入しているコンテンツが合成されたものであることを顧客は知らないままです。さらに、Amazonは、元の作品の大部分を頻繁に盗用する要約やワークブックに関する規制を強化しました。これらの対策にもかかわらず、トポル博士の現在の窮状は、AI生成の不正な書籍が保護策を回避し続け、信頼された専門家の苦労して得た評判を効果的に乗っ取っていることを明確に示しています。

この特定の種類のデジタル詐欺は、AIによって強化されたより広範な詐欺活動の一部です。生成AIは、偽の有名人の推薦や高度にパーソナライズされたフィッシングキャンペーンなど、欺瞞的な手段を通じて広告収入を生成するために大規模に展開されることが増えています。商業詐欺を超えて、この技術は、政治的に物議を醸すトピックに関する感情を煽る合成画像やテキストを作成したり、メディアの物語全体を捏造したりするためにも悪用されており、誤報と不信の広範な状況に貢献しています。Amazonでのトポル博士の身元乗っ取りの事例は、急速に進化するAIの能力が、デジタル時代の知的財産、消費者の信頼、およびプラットフォームの責任の基本的な原則にどのように挑戦しているかを明確に示しています。