AI深度伪造：催生“绝不发帖”育儿新趋势

几十年来，父母们一直在复杂的线上分享孩子照片的领域中摸索，权衡着连接的乐趣与隐私担忧、公司的数据收集以及在线掠食者剥削的风险。虽然绝大多数人已经将“晒娃”视为一种社会常态，研究表明只有大约四分之一的父母因这些既有担忧而避免在线发布孩子的照片，但一种新的、更具隐匿性的威胁正迫使越来越多的人重新考虑。

这种新出现的危险源于复杂人工智能（特别是生成式AI，即驱动流行聊天机器人的技术）的扩散。这些先进的算法现在正被所谓的“脱衣应用”所利用，这些应用可以利用任何人的面部自动生成高度逼真的深度伪造亲密图像。这对儿童的隐私和安全产生了深远影响，促使许多父母（包括一位最近刚迎来女婴并选择不在线分享其照片的父母）加入“绝不发帖”运动。

这些“脱衣应用”使用起来非常简单，通常价格低廉，有些甚至提供免费试用。它们的易用性导致了广泛使用，甚至在学校学生中也如此。对于受害者而言，自己的人工智能生成亲密图像在网上流传的经历，据说与真实照片流传一样具有创伤性，造成了深刻的心理伤害。虽然一项新的联邦法律已经颁布，将未经同意的虚假亲密图像的在线发布定为犯罪，但仍存在一个令人担忧的漏洞：使用“脱衣应用”本身创建这些图像的行为并未被禁止。这一监管空白使得这些应用得以泛滥，据报道，数十个此类网站每年产生数百万美元的收入。

正如科技出版物 Indicator 的创始人 Alexios Mantzarlis 所强调的那样，这个问题规模巨大，该出版物对85个“脱衣应用”网站进行了调查。Mantzarlis 强调了这种威胁的普遍性，他指出：“它无处不在。任何能上网的孩子都可能成为受害者或施害者。”这一严峻的现实突显了父母必须应对的不断变化的数字环境。在线分享家庭瞬间的便利性和社交吸引力，正日益被AI将个人图像武器化的令人不寒而栗的潜力所掩盖，将曾经无害的行为转变为一种风险极高的行为。