AI约会应用让爱情骗局实现规模化
The Verge AI··作者 Yael Grauer
关键信息
据报道，看似真实的匹配对象中只有约四分之一是真人，而且这些人是领取报酬的工作人员，只需从三条预先生成的回复中选择，而不是自行写消息。该网络还使用较小模型生成回复建议、进行外貌吸引力评分和照片或语音审核，并使用另一种模型生成头像图片。
资讯摘要
安全研究员Matthew“Zigula”Gore-Kormanik调查欺诈性约会应用Dora时，接到了一名叫Jennifer的用户发起的视频通话。通话中他没有看到Jennifer，只看到一幅可能因风扇而晃动的挂毯，并听到失真的背景声音；通话结束后，对方还称赞他的声音，但他的麦克风根本没有连接。此次调查源于Anthropic威胁情报研究员Chris Cronbaugh在6月5日Sleuthcon网络安全会议上公开介绍的一项工业化AI钓鱼行动。Anthropic发现，一个预付费账户每天发送超过10万次Claude API请求，并识别出约28个约会应用组成的网络。
这些应用把自己包装成帮助用户寻找真实联系的平台，而不是明确标注为AI伴侣的产品。据报告，用户主要是30多岁后半段的男性，看似真实的匹配对象中只有约四分之一是真人，而且通常是负责通过活体检测或执行社交媒体任务的带薪工作人员。后台系统会伪造点赞、访客和预录视频，并追踪用户是否开始怀疑自己正在与机器人交谈；大部分对话则由自主AI人设完成。整个网络组合使用了多种AI系统，包括负责对话的Claude、负责生成工作人员回复建议和执行审核任务的小型模型，以及用于生成头像的图像编辑模型。
资讯正文
安全研究员 Matthew “Zigula” Gore-Kormanik 正在分析一款名为 Dora 的欺诈性约会应用时，突然收到一条弹窗消息，显示 Jennifer 正在给他打电话。根据个人简介，她是一名 41 岁的射手座女性，红发蓝眼，身上有穿孔饰品。她喜欢音乐、恐怖电影、夜生活和运动。
Gore-Kormanik 接听了电话，但没有在视频画面中看到 Jennifer。他只看到一块挂毯在晃动，可能是风扇吹的，同时还听到背景中有奇怪的失真杂音。通话结束后，“Jennifer”给他发消息，说自己聊得很开心，而且“你的声音比预想中好听多了”。然而，他的麦克风当时甚至根本没有连接。
Gore-Kormanik 之所以在研究 Dora 和其他类似应用，是因为我与他分享了一份可能涉及约会诈骗的应用清单。我开始调查此事，是因为在 6 月 5 日，Anthropic 做了一件不同寻常的事：这家通常守口如瓶的公司允许其威胁情报研究员 Chris Cronbaugh 在一场名为 Sleuthcon 的公开网络安全会议上发表演讲。Anthropic 此前注意到 Claude 上出现异常活动：一个预付费账户每天发出超过 10 万次 API 请求。公司由此发现了一个欺诈性约会应用网络。
在这场题为《向右滑，掏钱吧：工业规模的 AI 网络爱情诈骗》的演讲中，Cronbaugh 描述了一个由大约 28 款约会应用组成的网络，其中的对话大多由自主运行的 AI 人设主导。他说，绝大多数聊天根本没有真人客服参与。此后，Anthropic 在其《检测和应对 AI 滥用：2026 年 9 月》报告的“骗局与欺诈”部分公布了相关发现，但那已是在我们投入大量时间调查该网络并尝试核实这些发现之后。令我感兴趣的是，Anthropic 在公开谈论此事时，许多相关应用仍可在美国两大应用商店中下载；我想知道它们为何还没有被下架。
查看这些应用本身时，我注意到，它们将自己包装成帮助人们找到聊天对象的工具。它们看起来并不像 Replika 之类的 AI 陪伴应用——后者会明确说明其中的人设实际上是 AI。例如，Dora 被描述为“一款为广泛年龄段人群精心设计的约会应用……提供一个相互尊重、易于使用的空间，让你结识与你拥有相同价值观的人”。另一个版本称其为“一款温暖、简单的约会应用，面向寻求真诚关系的成年人”。Romi 的介绍写道，它“帮助你发现真人、与真人建立联系并聊天”。Doni 的宣传语是“开启真正的陪伴”；其介绍称，它“帮助你与附近的单身人士建立联系”。
这类骗局的运作方式如下：用户大多是三十五六岁至三十八九岁的男性，他们进入约会应用，与自己以为是真实女性的对象配对。但这些对象中实际上只有四分之一是真人，而且这个真人并不是在应用中寻找约会对象的普通用户，而是一名拿报酬做这份工作的零工人员。
这些零工受雇在视频中通过活体检测，或关注社交媒体账号。他们甚至不会自己撰写评论，而是从三个预先生成的回复中选择一个来回应消息。不过，他们能够证明自己是人类，而那些 AI 人格只能用看似合理的解释来搪塞，说明为什么无法进行视频聊天或通话。Anthropic 的报告称：“在没有真实人员可用时，后端组件会伪造点赞、访客以及预先录制的‘视频’，并追踪哪些用户已经开始怀疑自己是在与机器人交谈。”由于与真实用户存在少量互动，一些用户开始相信，自己在应用中收到的那些完全由 AI 生成的回复也来自真人。
其中涉及多家 AI 提供商。报告称，Claude 被滥用于运行自主对话人格；“一个小型的非 Anthropic 模型则生成零工人员点击选择的简短回复建议，同时负责面部吸引力评分以及照片和语音审核。另有一个图像编辑模型生成头像图像。”
如今，网络诈骗已经形成了一个完整的生态系统，从自动生成的色情诱饵式回复，到虚假的社交媒体账号或约会应用个人资料，形式不一。很多时候，骗子会花数月建立信任，之后告诉受害者发生了紧急情况，需要对方提供经济帮助。或者，他们会假装自己是投资者，要求受害者把钱打入一个由骗子控制、最终却被证实是虚假的账户。但这并不是典型的恋爱诈骗：虚假的恋爱对象并没有“借走”钱，也没有涉及加密货币。
这些应用本身就是骗局：它们要求用户购买虚拟币才能继续互动，而虚拟币需要用真钱购买。用户购买虚拟币，是为了继续与主要由机器组成的对象交谈，却以为自己是在和其他人类聊天。这些零工让骗局得以持续，而随着虚拟币源源不断地流入，AI 可以全天候持续进行对话。
根据 Anthropic 的报告，提供给 AI 的提示词让这些人格保持一致，AI 的运行状态仿佛这些交流只是“普通的角色扮演或陪伴服务部署”。但 AI 并不知道自己是骗局的一部分，因为该公司写道：“从任何一次交流的内部，都无法看到其中的变现和欺骗行为。”
不过，报告称，在少数情况下，“模型自身的推理识别出了其中的伤害”，其中包括“用户透露自己患有重病或正处于严重痛苦之中”的情形。即便如此，“输出仍然继续以该人格的口吻进行”。
我们能够掌握更多细节，是因为 Gore-Kormanik 找到了整个配置的内部协议代码库，其中包括相关文件、代码以及关于这项业务如何运行的文档。这份中文手册被安装在约会应用 Doni 中，很可能是误操作所致。
对于 Anthropic 何时以及如何就这些应用联系 Google 和 Apple，Anthropic 没有回应置评请求。不过，Cronbaugh 在演讲中表示：“就像我们在其他情况下发现其他平台遭到滥用时所做的那样，我们已经将调查信息分享给这些其他服务提供商，以便他们也能在自己的平台上采取行动。”报告还称，相关调查结果已经直接分享给 Apple 和 Google。
Apple 和 Google 没有立即回应置评请求，未说明它们是否下架了这些应用、何时下架，以及为何耗时这么久。Google 也没有回应为何 Kira 仍在 Google Play 商店中上架的置评请求。Anthropic 报告列出的指标之一是：“后端：managedkafka[.]heyhru-server[.]cloud[.]goog，托管在 Google Cloud 上的运营方后端。”由于这些应用在这场演讲之后仍运行了数月，这不禁让人质疑，Google 为何没有更早切断其基础设施访问权限。Google 对此也没有立即回应置评请求。
Gore-Kormanik 在自己的实验室中搭建了模拟器，并提取了 Doni、Dora、Jovia、Kira、Nalo、Romi，以及另一款我们认为可能属于该网络的应用的 Android 安装包（APK）。这样做更便于检查应用的运行方式。随后，他进行了静态分析，也就是在应用未运行的情况下分析其代码。他还使用一款名为 Frida 的工具进行了动态分析。Frida 是一款测试应用，开发者可以借此拆解应用、监控并捕获流量，还能查看应用调用了哪些端点。他试图进一步了解这些应用的工作方式、它们使用的基础设施，以及哪些应用作为同一网络的一部分彼此关联。
虽然我们无法独立证实 Anthropic 在 Sleuthcon 演讲中公布的全部发现，但很快就开始找到这些应用之间的联系。只需查看应用描述，就能看出一些端倪。例如，Dora、Romi、Luma，以及另一款名为 Eterna 的应用，都使用了相同的开发者用户名 aprilsaidev。它们还使用了相同的电子邮件地址、邮寄地址和电话号码。Dora、Romi 和 Luma 还共享同一个开发者身份：一家名为 Alliance Against Human Trafficking 的非营利组织。Alliance Against Human Trafficking 的主席兼联合创始人 Jenna Bing 表示，该组织既没有开发这些应用，甚至都不知道它们的存在。
过去，Doni 曾与 Jovia 及一款名为 Poka 的应用一起出现在开发者 iLexis Multimedia Consults 名下。Jovia 和 Doni 还共用同一个香港地址和电话号码。
评论者也发现了其中的联系。一名 Kira（目前仍在上架的那款应用）的评论者写道：“充斥着假账号，还有付费员工假装成真实用户。和一名‘匹配对象’约了早餐见面——我当时已经到了约定地点，那名‘用户’说她就在外面，但随后被叫去处理紧急情况。她并不在外面（我能透过窗户看到外面），外面一个人也没有。彻头彻尾的骗局。”
另一名评论者写道：“随机视频通话很烦人。必须购买‘宝石’才能和一名可能根本不是真人、只是聊天机器人冒充的女性聊天，这种做法具有欺骗性，简直卑鄙。”这名评论者还写道：“如果能无限制发消息就好了，如果是真实女性就好了，如果双方在对话中都同意，就能随时交换联系方式，那就更好了。”该评论者还指出，匹配对象回复得太快，但回复内容却没有真正回应对方所说的话。
Kira 没有立即回应有关 AI 人格和计量式对话的置评请求。
性感的 AI 约会应用骗局来了
一位评测者将 Dora、Doni、GraceChat 和 Romi 列为同一个应用。该评测者还描述了在业务低迷时期重复使用或循环播放视频的情况。另有一位 Luma 评测者报告称，Romi 和 Luma 上出现了相同的个人资料，但这些资料在不同应用之间并不会识别出对方。他们表示，这些消息读起来像是由大语言模型生成的。
Gore-Kormanik 证实，Doni、Dora、Jovia、Kira、Nalo 和 Romi 彼此有关联。“它们几乎完全共享同一套代码，”他告诉 The Verge。“此外，所有这些应用的服务器都采用相同的后端架构。代码使用同一种语言，在不同应用之间还共用了一些 API。它们肯定是有关联的。”
根据 Cronbaugh 的演讲，Anthropic 是通过分析一个仅有五天历史、没有任何记录的预付费账户发现这项行动的。该账户突然开始每天发送超过 10 万次 API 请求。Anthropic 随后了解到，Claude 被滥用于在约会应用中创建女性人设。但 Claude 只被用作对话层。Cronbaugh 称，另一个模型用于生成照片，第三个模型则用于生成表情符号和贴纸头像。这些操作是大规模进行的。报告解释称，Anthropic 发现，在 4 月份的两周时间里，超过 4700 个独立伪造的 AI 人设与至少 2.5 万名不同用户互动。这两周内的消息数量约为 236 万条。
Cronbaugh 在 Sleuthcon 上表示，Anthropic 能够追踪并确认所有这些应用之间的联系，是因为其中出现了一句语法错误的独特短语。这句话足够具有辨识度，可以作为指纹，用来检测整个网络。
Cronbaugh 表示，购买流程通过应用内网页结账转至第三方支付处理商，而不是使用原生应用商店支付。尽管这些应用看起来彼此无关，但它们依赖的虚拟货币基础设施相同，使用的第三方支付处理商也完全相同。
Cronbaugh 称，当某个账户被封禁后，骗子很快就能恢复运作。他们会创建另一个账户，或者通过另一个账户获取访问权限。如果这也行不通，他们就会切换到其他模型提供商。他们在该网络中看到的账户，全部是在前一个月创建的。
Cronbaugh 强调，这项行动是以一家真正的公司为组织形式搭建并运营的，拥有真正的工程团队，还使用了包括 AI 编程助手在内的现代工具。他们制定了设计规划并编写了设计文档，拥有路线图、配置文件和结构化的应用架构，也制定了增长计划，并研究了应用商店的审核行为。
“复杂的诈骗者正在像经营企业一样开展业务，这意味着他们会关注收入，也会关注成本。他们正在利用各种工具来提高效率。”反诈骗应用 Jacana 的创始人兼首席执行官、曾任美国特勤局网络犯罪调查员的 Tate Jarrow 说。Jarrow 指出，如今任何企业都会寻求利用 AI 提高效率，因此网络犯罪分子采取同样的做法并不令人意外。“这就像其他所有合法经营的消费类公司都会考虑的事情一样。”
Jarrow 说，这些应用之所以构成欺诈，是因为用户在不知道自己实际购买的是什么的情况下为服务付费——在本例中，用户并不知道自己是在与 AI 机器人交谈。“当一家公司利用一个人理解不足或知识欠缺这一点来赚钱时，这就是诈骗或欺诈的定义。”他说。而且，刻意掩盖事实也是其典型特征，因为合法公司通常不会试图规避控制措施。
这些应用本身确实试图规避控制措施。Cronbaugh 在演讲中说，为了躲过 App Store 和 Play Store 的审核，这些应用在获批前会表现得像普通约会应用；获批后，开发者才会开启 AI 生成的人设网络和金币计量器。这些应用通过使用不同的账户和开发者身份，故意隐藏彼此之间的联系。它们甚至会调整内部代码，以干扰哈希之类的简单标识符。Anthropic 的报告还称，在 App Store 和 Play Store 审核期间，将付款重定向至第三方支付处理商的应用内浏览器也可以被隐藏。
我在审查这些应用时，Jarrow 的应用将其中一些标记为诈骗。他指出，用户评论可以帮助应用商店识别这类诈骗。“我认为，他们应该把评论作为信任与安全团队判断风险的一个信号。”
上文提到的那份同样遭泄露的手册——proto 仓库——还提供了诈骗运作方式的更多细节。
“它基本上说明了诈骗是如何运作的，也说明了他们如何让 AI 与人工操作员协同工作。”Gore-Kormanik 解释说。这份手册提到了 Dora。虽然工程文档只存在于 Doni 中，但在 proto 仓库中发现的仓库文件却同时出现在 Doni、Dora、Kira、Jovia、Nalo 和 Romi 中。
Anthropic 根据中文内部材料以及源自中国的基础设施，认定这项行动背后的操作者位于中国。Gore-Kormanik 指出，这些应用主要使用中国或与中国有关联的服务商：它们使用了 Tencent Cloud 的消息服务和实时视频服务，内部文档存放在 Feishu 上，schema 文件中的注释使用中文，源代码托管在中国代码托管服务 Gitee 上，应用分析数据和广告归因则发送给 ByteDance。
Gore-Kormanik 通过更改模拟器中的地理位置，又发现了更多信息。这些应用在中国境内无法运行；虽然它们可以在中国以外的亚洲地区运行，但变现功能处于关闭状态。“只有在亚洲以外的地区，它才会作为诈骗应用运行。”他说。
Jarrow表示，网络犯罪分子往往会避免针对自己所在的国家，以逃避执法。“所有这些活动都指向……风险是什么？风险在于，他们识别出这个应用，你对它施加压力，随后它就会被关停。”这样一来，运营者就会失去全部收入，不得不推出一款新应用并吸引新用户，而这成本高昂。“他们在识别业务风险，然后设置相应的控制措施。”
在演讲中，Cronbaugh曾提到，尽管 Anthropic 已封禁与该网络有关联的账户，并正在构建检测机制和强化默认设置，但要瓦解这类网络，还需要应用商店、支付平台和 AI 实验室开展跨行业合作。他说：“这些应用仍留在应用商店里，支付仍在持续进行，而对运营者来说，创建一个新账户大约只需要一天。”
清除诈骗分子是一场持续不断的斗争，需要整个行业协作；但不法分子仍会继续寻找方法，绕过企业设置的任何控制措施。遗憾的是，在这些骗局被揭穿之前，许多人已经被卷入其中。
来源与参考
收录于 2026-09-17