AI虚拟人用种族刻板印象推销代发货商品

关键信息

The Verge 指出，这些账号的几乎所有内容似乎都是 AI 生成的，包括屏幕上的“人物”和会自动回复评论的系统，而且有时还会模仿非裔美国人的口语表达。研究员 Jeremy Carrasco 告诉媒体，他的团队每天最多能发现 100 个这类账号，且文章中的许多案例都是在过去两个月内创建的。

资讯摘要

The Verge 调查了一类正在增长的 AI 生成网红账号，它们通过情绪化、往往带有种族化色彩的叙事来通过代发货模式销售廉价商品。一个典型例子是 Aliyah：她被塑造成一名穿着乡村西部风服饰、看起来正在哭泣的浅肤色黑人女性，试图让观众支持她的腰带扣生意。问题在于，Aliyah 并不是真人，这些商品也并非手工制作；相同款式的腰带扣在 Shein 上的售价只有其大约四分之一。文章指出，视频里有多处明显破绽，例如机械感很强的声音、不符合动作逻辑的缝纫镜头，以及人物擦泪时出现的画面穿帮。报道还提到，网上存在许多几乎一模一样的视频，只是换了不同的 AI 人物，但背景、道具和销售话术都相同。

The Verge 在 TikTok 上找到了数十个类似账号，在 Instagram 和 Facebook 上也能看到同类内容，它们兜售的商品包括牛仔靴造型马克杯、钩织包和开衫等。部分账号会标注为 AI 生成，但很多并未标明，而且这些账号常常用自动化方式回复评论，有时还会模仿特定的非裔英语表达方式。Carrasco 将其描述为一种不断扩大的电商骗局，一些操作者会让一个 AI 角色同时服务于多个店铺。整篇文章把这一趋势概括为建立在欺骗、社交媒体传播和伪造身份之上的零售诈骗。

来源与参考

1. 原始链接
2. AI avatars in digital blackface want to sell you this belt buckle