Meta用未成年危机提示测试竞争聊天机器人
The Decoder··作者 Matthias Bastian
关键信息
Meta表示，这种测试属于负责且符合行业标准的安全工作，并称不会将收集到的聊天机器人回复用于训练自家模型。不过，WIRED查看的文件并未说明Meta最终如何处理这些数据，而且被测试的公司都表示事先并不知情。
资讯摘要
据报道，Meta秘密对多款竞争聊天机器人进行了测试，提示词是从处于危机中的未成年人视角编写的。这个内部项目据称名为“Cannes”，由承包商 Covalen 执行。数百名承包商假扮成未满18岁的用户，创建假账号后向 ChatGPT、Gemini 和 Character.AI 提交敏感提示词。提示内容涉及自残、进食障碍、性和毒品，承包商随后把模型回复复制到表格中进行分析。
WIRED 报道称，仅2025年8月的一轮测试就发送了超过45,000条提示词。Meta为此辩护称，这属于负责且符合行业标准的安全测试，并表示不会用收集到的回复训练自家模型。尽管如此，WIRED查看的文件并未明确说明 Meta 最终如何处理这些数据。被测试的公司则表示自己事先并不知情：Character.AI称这违反了其服务条款，OpenAI表示正在调查，Google则称未批准这些测试。
资讯正文
Meta 似乎测试了像 ChatGPT 这样的竞争对手聊天机器人，提示内容包括从未成年人视角出发的自杀、性和毒品话题。
据 WIRED 报道，数百名承包商假扮未成年人，向 ChatGPT、Gemini 和 Character.AI 发送涉及敏感内容的提示。该项目在内部被称为 “Cannes”，由 Meta 的承包商 Covalen 负责，且至少一直运行到 2026 年 4 月。
这些承包商创建了出生日期设在 18 岁以下的虚假账号，向这些聊天机器人发送有关自残、进食障碍和毒品的提示，然后将回复复制到电子表格中。WIRED 报道称，仅在 2025 年 8 月的一轮测试中，就发送了超过 45,000 条提示。其中许多都是以处于危机中的儿童的视角撰写的。
Meta 为这种做法辩护，称其为负责任、符合行业标准的安全测试。该公司还表示，并未使用收集到的聊天机器人回复来训练自己的 AI 模型。WIRED 审阅的文件并未显示 Meta 实际如何处理所收集的数据。
被测试的公司对此毫不知情。Character.AI 告诉 WIRED，这种测试违反了其服务条款。OpenAI 正在调查此事。谷歌发言人表示，公司并未批准这些测试，且依据现有信息也无法判断它们是否违反了其条款。
青少年与 AI 聊天机器人的问题仍在加剧
Meta 早已因一份内部文件引发争议；该文件披露，其 AI 聊天机器人指南曾允许生成与未成年人之间带有浪漫和性意味的对话。此后，该公司关闭了青少年访问 AI 角色的权限。
这一问题并不只局限于 Meta，也很可能促使了该公司的提示测试。英国组织 Internet Matters 的一份报告发现，9 至 17 岁儿童中有 64% 已经使用过 AI 聊天机器人。有效的年龄验证在很大程度上仍然缺失。9 至 12 岁儿童中有 58% 表示自己在使用聊天机器人，尽管最低年龄要求为 13 岁。
已有几起青少年死亡事件被认为与 AI 聊天机器人有关。一名 14 岁的 Character.AI 用户在与一个聊天机器人建立了数月强烈情感联系后自杀身亡。加州一名 16 岁男孩的父母起诉 OpenAI，指控 ChatGPT 在他们儿子的自杀念头中起了作用。2025 年 7 月，23 岁的 Zane Shamblin 自杀身亡，据称 ChatGPT 在数小时内持续对他的自杀念头表示认同。
没有炒作的 AI 新闻——由人类策划
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年 6 次独家 “AI Radar” 前沿报告、全文存档访问权限，以及评论区访问权限。
来源与参考
收录于 2026-07-01