谷歌起诉滥用 Gemini 的网络诈骗团伙

关键信息

谷歌称，Outsider Enterprise 提供了近 300 个诈骗模板，并指导用户借助 Gemini 制作仿冒 Google、YouTube 以及纽约 E-ZPass 等机构的网站。谷歌还表示，已追踪到与该网络相关的 9000 个假网站和 100 万个 URL；发往 Android 用户的诈骗短信超过 250 万条，其中上个月有两周内就约 5.5 万条。

资讯摘要

谷歌宣布起诉一个其称为 Outsider Enterprise 的中国网络犯罪团伙，指控该网络利用 Gemini 自动化并放大诈骗活动。根据谷歌提交的法律文件，该团伙通过 Telegram 运作，并向那些没有足够技术能力自行搭建欺诈基础设施的人提供“网络钓鱼即服务”。谷歌称，该团伙还提供了如何使用 Gemini 创建仿冒 Google、YouTube 以及纽约 E-ZPass 等政府或服务门户网站的说明。该组织据称提供了近 300 个诈骗模板，以便更轻松、更重复地开展钓鱼攻击。谷歌表示，这场活动向 Android 用户发送了超过 250 万条诈骗短信，其中仅上个月某两周内就约有 5.5 万条。

总体而言，谷歌称其已追踪到与该网络相关的 9000 个假网站和 100 万个 URL。常见短信内容会谎称账户出现问题或包裹投递异常，受害者点击链接后会进入伪造页面，个人信息和银行资料因此被盗。谷歌没有估算总共被盗金额，但在博客中表示已有数百人因此蒙受损失。谷歌还称，其与 AT&T、Verizon 和 T-Mobile 合作封堵了许多恶意短信，同时 Google Messages 中的设备端诈骗检测功能也可能帮助减少了成功的钓鱼尝试。谷歌表示，这一功能每月可拦截约 100 亿条诈骗短信。

资讯正文

谷歌一直喜欢告诉我们，人们如何使用它的生成式 AI 产品来构建新事物、发展业务以及拯救世界。理论上如此。当然，人们也在利用 AI 犯罪。谷歌已宣布针对一个名为 Outsider Enterprise 的中国团伙采取新的法律行动，该团伙据称策划了一场规模巨大的 AI 驱动诈骗活动。谷歌表示，它正在与执法部门和移动运营商合作进行反击。

根据谷歌提交的法律文件，Outsider Enterprise 通过 Telegram 运作。该组织向那些可能没有足够技术能力自行搭建欺诈网站和短信活动的个人，提供“网络钓鱼即服务”。据称，在其 Telegram 频道中，Outsider Enterprise 提供了如何使用谷歌的 Gemini AI 创建仿冒谷歌、YouTube 以及纽约 E-ZPass 等政府机构网站的操作说明。该组织还提供了近 300 个诈骗模板。

谷歌表示，Outsider Enterprise 所助长的诈骗导致向 Android 用户发送了超过 250 万条短信。其中约 55,000 条发生在上个月一个为期两周的时间段内。总体而言，谷歌已追踪到与这一诈骗网络相关的 9,000 个假网站和 100 万个 URL。

这些短信通常声称账户存在问题，或者包裹投递出现异常。用户点击链接后，会进入其中一个由 Gemini 设计得看似真实的欺诈网站。网络犯罪分子利用这些网站窃取个人数据和银行信息。谷歌的法律文件并未估算通过 Outsider Enterprise 诈骗活动被盗走的金额，但其博客文章指出，已有数百人因此损失了不同数额的钱财。

谷歌与 AT&T、Verizon 和 T-Mobile 合作拦截了许多这类恶意短信，谷歌还指出，Google Messages 中基于设备的诈骗检测功能很可能也帮助减少了成功的网络钓鱼尝试。这个由 AI 驱动的功能据称每月会拦截 100 亿条诈骗短信，因此可以合理推测，它至少阻止了 Outsider Enterprise 的部分活动。

来源与参考

1. 原始链接
2. Google sues Chinese cybercrime network that used Gemini to automate scams