谷歌AI默认设置制造隐私幻觉
Ars Technica AI··作者 Ryan Whitwam
关键信息
谷歌表示不会直接使用您的邮件内容训练模型，但允许AI处理并可能保留您文件中的摘要或片段——这些数据可能在过滤后进入训练管道。
资讯摘要
《Ars Technica》报道指出，谷歌的人工智能策略严重依赖默认设置，鼓励数据共享而无需明确用户同意。尽管谷歌声称不会扫描私人邮件或文档用于训练，但其Gemini AI仍可访问Workspace应用并生成包含个人信息的输出。这些输出可能随后被用来改进模型——即使谷歌会先进行过滤。
文章强调，退出选项因复杂的界面和所谓的“暗黑模式”而变得困难，这些设计引导用户做出更少隐私保护的选择。这制造了一种“选择幻觉”，即用户以为能掌控自己的数据，实则不然。这一问题尤其紧迫，因为AI在Gmail和Drive等生产力工具中的角色日益重要。
资讯正文
谷歌的AI默认设置和选择幻觉背后的隐性成本
谷歌声称尊重用户隐私，但现实并非黑白分明。
许多人都希望——甚至祈祷——生成式AI泡沫能尽快破裂。但根据谷歌的说法，生成式AI是未来，其产品必须随之改变以适应技术现实。因此，Gemini正渗透进谷歌生态系统的每个角落。生成式AI依赖数据，而谷歌在Gmail和Drive等产品中拥有大量你的数据。这对你的隐私意味着什么？如果你不希望Gemini窥探你的一举一动，又会发生什么呢？情况有点混乱。
Gemini保留的数据量取决于你访问AI的方式，而选择退出数据收集可能意味着直接陷入所谓的“黑暗模式”——即违背用户利益的界面设计元素。
这真的是未来吗？
谷歌不会用你的数据训练AI，除非它确实这么做了。
关于谷歌如何使用你私人数据的担忧早在生成式AI热潮之前就已存在。当谷歌在Gmail中加强广告投放时，公司明确表示不会利用邮件内容来投放广告。相反，广告个性化（你可以关闭）是一个全局功能，通过你的网络活动和关键统计数据来定位你。大多数人已经接受了这一点，但在AI领域，情况变得更加模糊。
随着谷歌将更多Gemini功能融入Gmail等标志性产品，它再次不得不澄清何时以及在何种情况下会使用你的数据。在最近一篇博客文章（及配套的YouTube短视频）中，谷歌试图说明你的邮件不会被直接传输到Gemini。相反，Gemini可以访问你的数据用于“独立任务”。当你在Workspace应用（如Gmail或Drive）中与Gemini功能互动时，AI会处理你的数据，但不会保存它们。
一位谷歌发言人表示：“保护用户的隐私和对数据的控制权是我们开发和部署Google Workspace中AI的核心原则。你放入Workspace的内容——比如私人的Drive文件——属于你本人；当我们使用Gemini时，我们不会使用这些个人内容来训练我们的基础生成式AI模型。”
所以，谷歌不会扫描你的收件箱或文档来训练Gemini。很好。但Gemini可以使用工具连接到Workspace和其他谷歌产品。
当适当的情况下，根据您的提示。谷歌表示，其AI模型可以基于Gemini的输入和输出进行训练。而您猜对了，这些输出可能包含什么——没错，就是您的数据。
Gemini的输出可能包括电子邮件或文件的摘要和片段，而这些数据随后可能成为AI训练的素材。谷歌称，目标是让Gemini成为一个更好的助手，人们与机器人互动的方式是关键因素之一，但谷歌试图‘过滤并减少’进入AI训练数据集的个人信息。不过，我们无法知道这种自动化过程的效果如何。
谷歌很快指出，用户对这些功能拥有控制权。如果您希望真正保护私人数据，可以选择不让Gemini访问您的文件，或者选择不将任何数据用于AI训练。不幸的是，谷歌并没有让用户轻松地彻底放弃Gemini。
在聊天机器人中，黑暗的一面
有几种方法可以确保您的个人数据不会进入谷歌的AI训练集，其中一些比另一些更直接。最简单的方法是保持与Gemini的互动轻量且非个性化：不要允许Gemini访问其他Google应用，并且对于任何稍微敏感的内容，仅使用临时聊天。这样，Gemini就不会在输出中拥有任何可挖掘的个人数据。当然，这会让Gemini变得没那么有用，这对那些试图保护隐私的人来说并不陌生。
若要完全阻止AI对您的数据进行训练，您需要关闭一个名为“Gemini应用活动”的功能。这个较为冷门的设置页面让您能够关闭Gemini的历史记录，或同时删除已有的Gemini数据。如果您不保存活动记录，谷歌就不会用它来训练AI。但这也意味着您会丢失聊天历史。因此，您必须在是否保留未来参考的AI对话记录和允许这些对话内容用于AI训练之间做出选择。
公司通常不会承认自己设计界面来操纵用户，但意图并不决定UI设计是否属于暗黑模式。Fair Patterns是一家开发AI模型以检测暗黑模式和掠夺性设计的初创企业，其创始人玛丽·波泰尔（Marie Potel）表示：“无论是否出于故意，都不重要。重要的是用户的自主权——即行动自由——是否被尊重，以及设计是否违背了用户想要做的事。”
如果唯一能退出AI训练的方式是永久禁用聊天历史记录，那么这样的安排显然没有尊重用户的自主权——这是一种强制行为。甚至找到正确的菜单来退出训练也可能是一项繁琐的任务。Gemini应用设置中有一个隐藏链接，但仅标注为“活动”，如果您搜索谷歌的支持文章，也可以找到直接链接。
有趣的是，Gemini的控制选项并未出现在谷歌账户的隐私设置中，而这本应是您预期能找到它们的地方。一位谷歌代表表示，应该在“活动控制”下提供链接，同时还包括Android、地图、搜索、助理等子菜单。但在检查多个账户后，我们仍未看到通往Gemini隐私菜单的链接。
两个不同的谷歌账户，都没有指向Gemini隐私菜单的链接。
Ryan Whitwam
两个不同的Google账户，却都没有链接到Gemini的隐私菜单。
Credit:
Ryan Whitwam
一个对用户隐私至关重要的开关，即使它会显著降低使用体验，也不应该如此难以找到。不幸的是，这并不是Google第一次似乎遗失了隐私选项。Marie Potel指出，隐藏和失效的链接是一种几乎与互联网一样古老的黑暗模式。
“Google有将功能，尤其是隐私设置，藏在多层点击中的历史，这种设计显然是为了阻止人们使用它们，”Potel表示。
AI已成为新的默认体验
收集训练数据并非Gemini的唯一目标；它还希望让生成式AI融入你的日常生活。使用Gemini功能的人越多，Google就越容易证明其在该技术上的巨额投资（仅2026年预计就达1850亿美元）是合理的。自然地，Google的核心产品更激进地采用AI功能，并默认认为你想要这些功能。
在Gmail中，Gemini可以撰写和修改邮件、总结邮件链、整理收件箱，并创建电子邮件的AI概览。你获得的AI功能多少取决于是否付费以解锁更高的AI使用限额，但所有人都会获得一些功能，而且这些功能还在持续扩展。但也许你并不希望AI在你的邮件中生成虚构的摘要。关闭这项功能则会让人感到沮丧，因为没有细致的控制选项——许多功能在Gmail设置中有简单的开关，但Gemini却没有。
要在Gmail中禁用Gemini功能，你必须通过Google称为“智能功能”的设置全部关闭它们，而且有两种方法可以做到这一点。其中一种方法会彻底禁用大量Gmail功能，而两种方法都没有得到清晰说明。
在Gmail设置中，有一个复选框开关用于关闭“智能功能”，这也会停用Gemini，但它同时会移除许多早于AI热潮的热门功能。使用这个选项意味着放弃收件箱分类（如主要、社交、促销等标签）、智能撰写、包裹追踪等功能。也许你原本以为只有20封未读邮件，现在却突然多了500封，因为那些你一直忽略的社交更新现在都涌入了主收件箱。在禁用Gemini并失去所有这些功能后，Gmail还会弹出提示，让你重新启用包括Gemini在内的所有功能。
另一种“智能功能”开关位于设置中更深一层的位置，这是Workspace版本。它除了关闭Gemini外，还会关闭个性化Drive搜索、将忠诚卡复制到钱包以及从Gmail提取日历事件的功能。这本应也从Drive中移除Gemini，但你可能在切换开关后看不到任何变化，因为Gemini的UI元素依然存在。点击其中任意一个都会弹出提示，要求你重新开启智能功能（包括Gemini）。
在Gmail中有两种方式可以禁用Gemini，但两者都没有明确标注为‘禁用Gemini’。
Credit:
在Gmail中有两种方式可以禁用Gemini，但两者都没有明确标注为‘禁用Gemini’。
Credit:
因此，禁用Gemini功能意味着要面对措辞模糊的菜单以及无关功能的丢失，这看起来像是‘阻碍’和‘强制行动’这两种黑暗模式的结合。‘显然，这是不可接受的，’波特尔说，‘当你禁用Gemini时，它改变了你的使用参数，这显然是为了阻止你禁用它。’
默认设置即使在没有恶意设计的情况下也具有强大影响力，但默认设置的管理方式很容易滑向黑暗地带。据2010年提出‘黑暗模式’这一术语的哈里·布里格努尔博士所说，企业长期以来一直依赖默认设置来引导用户前进。
谈到整个科技行业时，布里格努尔表示，企业非常清楚这种效应及其带来的优势。‘我们可以把这称为预选黑暗模式，’他说，‘如果你想让人们同意某件事，与其在注册步骤中明确地通过链接让他们了解更多信息，你可以把那个选项设为预选状态。把它放在三到四步点击之后的设置里，这样你可能会觉得用户拥有选择权，但实际上你知道，从自己的数据来看，通过这样的设计，很少有人能到达那个页面。’
谷歌有数十亿用户依赖其产品，这赋予了它极大的权力，可以将新功能推送到用户面前，因为人们很少更改默认设置。出于这个原因，谷歌曾不惜重金在iPhone等设备上设定默认选项。这个问题在谷歌最近的反垄断案件中反复出现，政府律师利用这一点将该公司描绘成具有排他性的竞争者。
我们在免费和付费的谷歌账户中看到的，正是人工智能时代默认设置的力量。默认是分享数据用于AI训练，默认是邮件中的AI摘要，默认是AI驱动的文档创建。你可以更改这些设置，但谷歌知道大多数人不会这么做，因为这些选项很难找到，而且效果也不如预期。
欢迎来到未来。
技术娴熟且对科技艺术与科学领域兴趣广泛，Ars 是信息海洋中值得信赖的来源。毕竟，你不需要了解一切，只需关注重要的内容。
更多来自 Ars
AI 政策
管理偏好
阅读我们的附属链接政策。本网站内容未经 Condé Nast 事先书面许可，不得复制、分发、传输、缓存或以其他方式使用。
来源与参考
收录于 2026-05-01