Meta的Content Seal落后于现有AI水印
The Verge AI··作者 Jess Weatherbed
关键信息
Content Seal被描述为一种不可见水印，会在AI生成图片中嵌入隐藏的来源信号，并且在裁剪、压缩、调整大小或截图后仍可被检测到。不过，目前只能通过单独的网页工具检测，水印也只适用于Meta AI应用和Meta.ai网站中Muse生成的图片，视频支持也只是“即将推出”。
资讯摘要
3月，Meta的监督委员会呼吁公司使用自己的工具，帮助遏制平台上传播的欺骗性生成式AI内容。作为回应，Meta在7月宣布了Content Seal，这是一种为其新Muse模型生成图片设计的隐形水印系统，但这一功能在公司更大的Muse发布中只是被轻描淡写地提到。文章认为，这一举动并不令人信服，因为在这之前，C2PA Content Credentials和Google的SynthID等更成熟的方案已经占据了主导地位。Meta表示，Content Seal会在AI生成图片中嵌入隐藏的来源信号，而且这种信号在裁剪、压缩、调整大小或截图后仍应可被检测到。按功能来看，它和SynthID属于同一类技术，都是为了让后续检测AI生成内容成为可能。
文章质疑，既然Meta本来就是C2PA的参与者之一，而且Google也已经把SynthID开放给OpenAI等竞争对手，Meta为什么还要重新自建一套系统。更现实的问题在于，Content Seal目前只能通过一个单独的网页工具检测，尚未像Google的Gemini那样直接集成到Meta AI聊天机器人里。与此同时，这种水印只适用于Meta AI应用和Meta.ai网站中Muse生成的图片，旧模型生成的内容无法检测，视频支持也还没有上线，只是被Meta称为“即将推出”。Meta还对检测次数做了每日限制，理由是支持正常使用并防止系统被滥用，但文章认为，在需要大规模提高透明度的场景下，这种限制反而显得有些倒退。
资讯正文
3月，Meta 的监督委员会呼吁公司“履行其公开承诺并使用自己的工具”，以帮助遏制跨平台传播的欺骗性生成式 AI 内容。Meta 随后在 7 月推出了 Content Seal——一种不可见水印技术，用于标记由公司新 AI 模型生成的图像。不过，这几乎只是公司在宣布其 Muse 图像和视频生成工具时顺带提到的一笔带过的内容。
作为一个花了大量时间研究 AI 标注系统的人，Content Seal 并没有给我带来多少信心。事实上，已经有更成熟的方案，比如 C2PA Content Credentials 和 Google 的 SynthID，Meta 本可以直接采用这些方案，而不是在明显更晚的时候再自行推出一套系统。在追查 Meta 为什么要推出自己的系统之后，我并不认为 Meta 已经把这件事想清楚了。
按照 Meta 的说法，Content Seal 的工作方式与 SynthID 类似。这个人眼不可见的水印，会在 AI 生成的图像中嵌入一种“隐藏的来源信号”，随后可由检测工具进行扫描并标记，帮助网络用户区分深度伪造内容与真实内容。与 SynthID 一样，Meta 也表示，即使图像被“裁剪、压缩、调整大小或截图”，Content Seal 水印仍能保持完整并继续被检测到。
那么，如果 Content Seal 在功能上做的是同样的事……为什么不直接采用 SynthID？Meta 本身已经作为内容来源与真实性联盟（C2PA）的指导委员会成员，与 Google 一起推动独立的 Content Credentials 标准，因此它已经表明愿意与其他公司合作，解决日益严重的 AI 检测问题。SynthID 也已经被 OpenAI 采用，这显然说明，Google 也愿意为了提升透明度而向竞争对手的 AI 提供商开放自己的技术。
尽管与 Google 的系统有这些相似之处，Content Seal 目前仍有若干局限。就目前而言，用户只能通过 Meta 正在测试的一个专门网页工具来检测 Content Seal 水印，这意味着 Meta 还没有像 Google 在 Gemini 中那样，把这些检测能力直接整合进自己的 Meta AI 聊天机器人。不过，这似乎正在推进中。Meta 发言人 Faith Eischen 告诉 The Verge，公司正在“探索将检测能力更贴近人们接触 AI 生成内容的地方”。既然这正是 AI 检测最需要出现的地方，而且已经需要一段时间了，为什么在发布时还没有提供？
水印本身目前也只会应用于 Meta AI 应用和 Meta.ai 网站中由 Muse 生成的图像，这意味着网络用户还无法用它来检测 Meta 更早期 AI 模型生成的内容。生成视频的支持也尚未提供，不过 Meta 表示这项功能“很快”就会推出。
Meta 已对通过其检测工具检查图片中的 Content Seal 的次数设定了每日上限。Eischen 表示，这一速率限制旨在支持“正常使用”，同时防止检测系统被滥用。Meta 并未说明这种滥用会是什么样子——大概是试图破解系统，以避免带水印的内容被检测出来——但 Google 和 OpenAI 的检测工具也有类似的速率限制。C2PA 是唯一一个不限制用户可检查内容次数的系统。对检测进行任何限制，在推动大规模 AI 透明度方面都显得有些不合逻辑，因此，这让人觉得 Meta 的这套系统错失了一个比 SynthID 做得更好的机会。
在 Facebook 和 Instagram 等 Meta 自家平台上，AI 标签会被应用，Eischen 说，系统正在使用未明确说明的元数据，“连同 Content Seal 水印一起”，帮助用户识别 AI 生成内容。当我问 Meta 是否在指导像 TikTok 和 LinkedIn 这类会扫描并标注 AI 内容的其他在线平台如何检测 Content Seal 时，Eischen 表示，公司“决心与我们的行业同行合作，确保用户获得尽可能好的体验”。
这听起来意味着，对这一标准的更广泛支持仍在推进中，这可能会导致由 Muse 生成的图片在 Meta 自家平台之外无法被有效标注。当我把一张用 Meta 的 Muse 模型制作的测试图片输入 Gemini 和官方 C2PA 检测门户时，这两个工具都无法确认它是 AI 生成的。还有一个问题是，Content Seal 是否可以与 SynthID 和 Content Credentials 一起应用于图片和视频文件，而不会影响这些其他标准。Meta 没有就此提供任何书面澄清。
[图片：我试着问 Gemini 我的测试图片是不是 AI 生成的，但如果 Meta 在其 AI 内容中嵌入了其他来源标记，那么 Google 也无法检测到。 https://platform.theverge.com/wp-content/uploads/sites/2/2026/07/Screenshot-2026-07-21-171335.jpg?quality=90&strip=all]
“和其他人一样，我们是按照我们自己的技术规格和产品原生构建 Content Seal 的。要在整个生态系统中解决这个问题，需要多种方法协同工作，我们很高兴能为这项努力作出贡献，”Eischen 说。“我们很快会分享更多关于 Content Seal 的信息。”
考虑到 Content Seal 只能检测使用 Meta 最新 AI 模型生成的图片，我不得不怀疑这家公司这些年到底都在做些什么。Meta 自 2023 年以来就一直提供 AI 图像生成工具，因此它早已制造出大量连自家专有系统都无法检测的伪造内容。它还在 2023 年为 Instagram 和 Facebook 引入了 AI 标签，当时由于错误地将真实照片标注为“Made by AI”，惹恼了许多摄影师。
三年过去了，Meta 似乎仍然不确定自己该如何把自己定位成既是 AI 内容的工厂、又是识别这些内容的解决方案，尤其是在自家平台上。就连 Meta 的高层领导似乎也不知道接下来该怎么做。
在 Lenny Rachitsky 的播客采访中，Instagram 负责人 Adam Mosseri 起初认可这样一种想法：不喜欢 AI 生成内容的人，应该被允许把这类内容排除在自己的社交信息流之外——这听起来很像一种过滤功能，而这需要一个可靠的 AI 标记系统。他甚至表示，真实感本身将会变得更受欢迎，因为它是 AI 无法提供的东西。
Mosseri 说：“在一个合成内容大量充斥的世界里，我实际上认为，人们会更多而不是更少地去寻找创造力、真实性以及人本身。”
不过，在同一次采访中，Mosseri 又表示：“我不认为我们应该过滤掉 AI 内容，”但同时也确认“我们应该让你知道某个内容是不是 AI 内容。” Mosseri 还重申了他此前表达过的观点：也许“对真实媒体进行指纹识别，比对虚假媒体进行指纹识别更实际”。这并不能让 Meta 显得对自己开发可行的 AI 标记系统有多大信心。它本来有充足的时间去做这件事——从把自己的社交平台打造成面向 shrimp Jesus 和其他生成式脑腐内容的垃圾内容工厂开始，到如今 Content Seal 的推出——但这次发布仍然让人感觉像是匆忙赶工推出的。
与已有的、类似的 SynthID 系统相比，它并没有为消费者带来任何独特优势；相反，它只是又增加了一个人们必须跨过去的门槛，才能验证 AI 内容。也许 Meta 本来就该像 OpenAI 一样，直接采用 Google 的水印标准。要是那样，Facebook 和 Instagram 用户或许会过得更好。Eischen 告诉我，Meta 多年来一直在贡献开源水印研究，所以这项技术并不是一夜之间凭空造出来的，但我本来会期待它在面向消费者的体验上能有所体现。
如果 Meta 想坚持自己的解决方案，它就需要的不只是一个半成品版的 SynthID 克隆品，来证明自己确实认真对待 AI 透明度——至少也得是一个更可靠的版本。路透社已经发现，在对 Muse 生成的图片进行裁剪之后，Content Seal 无法检测出其中超过一半的图片。
来源与参考
收录于 2026-07-23