Amazonを襲うAI偽本洪水：深刻化する透明性の危機

Amazonは、そのプラットフォームに押し寄せるAI生成の偽本の洪水に対する、エスカレートする戦いに直面しています。この問題は、同社の保護策を継続的に回避しています。新しいポリシーと審査プロセスを導入しているにもかかわらず、このオンライン小売大手は、評判の良い人物の名前を悪用することが多い不正なタイトルの流れを食い止めるのに苦労しています。

この課題の鮮明な例は、著名な医師であり科学者であるエリック・トポル博士から来ています。彼は、アマゾンで彼の同意なしに、数十冊の偽の料理本や健康ガイドが彼の身元で販売されていることについて繰り返し警告しています。トポル博士はこれらの出品を明白な詐欺と表現し、問題の書籍を報告しようとする彼の試みが、アマゾンのカスタマーサービスから一般的な返答しか得られず、目に見える結果が出ていないと述べています。トポル博士の確立された名前を信頼してこれらの本を購入した購入者は、内容が乏しく捏造されていることに深く失望しています。

この問題は、個人のなりすましをはるかに超えて広がっています。報告によると、AI生成のミニ伝記（多くの場合、偽の表紙と最小限の内容が特徴）は、特にスポーツにおける主要なイベントの後、急速に増殖しています。これらのタイトルは、genuineなオンラインプレゼンスを持たないとされる著者によって大量に発行されることが多く、ChatGPTのような洗練されたAIツールとAmazonのアクセスしやすいセルフ出版プラットフォームが組み合わさることで、詐欺師が市場をいかに簡単に洪水のように埋め尽くすことができるかを浮き彫りにしています。有名人のスタイルやブランドを模倣する能力は、問題をさらに悪化させています。

出版社協会は、この傾向に対して重大な懸念を表明しており、AI生成コンテンツのより明確な表示を提唱しています。CEOのダン・コンウェイは、読者がますます混乱しており、綿密に調査された本と人工知能によって迅速に作成された本を区別することがほぼ不可能になっていると警告しています。彼は、何千ものAI生成書籍が本物の作品を圧倒し、覆い隠す危険があるという差し迫った「情報飽和」の可能性を指摘しています。

この増大する危機に対応して、Amazonは、コンテンツガイドラインを施行するために自動および手動の両方の審査プロセスを採用しており、AIの起源に関係なく、規則に違反するすべての書籍を削除していると述べています。同社は、AI技術の進化に合わせてこれらの保護策を継続的に更新していると断言しています。さらに、AmazonはKindle Direct Publishing（KDP）プラットフォームに新たな制限を課し、セルフパブリッシャーの1日あたりの書籍数を最大3冊に制限し、著者にAI生成のテキスト、画像、または翻訳の使用を開示することを義務付けています。元の作品の一部をコピーするためによく使用される要約やワークブックに関する規則も厳格化されました。

しかし、重要な透明性のギャップが残っています。著者はAIの関与を申告しなければなりませんが、この情報は顧客に直接共有されません。この開示の欠如は、購入者を脆弱なままにし、情報に基づいた購入決定を下すことができず、信頼できる専門家の評判を悪用するタイトルに引き続き餌食にされています。トポル博士の継続的な闘いは、Amazonの努力にもかかわらず、AI生成の偽本がすり抜け続け、プラットフォームの提供物に対する信頼を低下させていることを強調しています。

書籍の領域を超えて、詐欺目的でのAI生成コンテンツの広範な悪用は、ますます懸念される問題です。これには、偽の有名人による推薦を通じて広告収入を生み出す大規模な取り組み、パーソナライズされたフィッシングキャンペーン、政治的に物議を醸すトピックに関する感情的に刺激的な合成画像やテキストの作成などが含まれ、これらすべてが広範なデジタル欺瞞の状況に貢献しています。オンライン情報の整合性、そしてそれをホストするプラットフォームは、AIの能力がますます洗練され、アクセスしやすくなるにつれて、前例のない課題に直面しています。