xAI起诉涉嫌用Grok生成CSAM深伪图像的用户

关键信息

xAI 表示，Harwood “明知且故意”使用 Grok 将非色情照片在未经同意的情况下转换为色情图像，而且与其刑事案件相关的至少部分图像是用 Grok 生成或篡改的。诉讼还要求禁止他再次创建 xAI 账户或使用 Grok，并要求其承担赔偿以及与未来受害者索赔相关的法律费用。

资讯摘要

埃隆·马斯克旗下的 xAI 正在起诉南卡罗来纳州男子 Terry Wayne Harwood，指控他利用 Grok 生成儿童性虐待材料。诉状称，Harwood 绕过了 Grok 的安全防护，篡改了未经同意的图像，并且分发了 CSAM，违反了公司的规则。路透社此前已经报道过此案，而 Harwood 于 2 月被捕，当时他被指控持有并传播 CSAM。如今他面临 8 项重罪指控。xAI 指称，与这些刑事指控相关的至少部分图像是用 Grok 生成或编辑的。

公司还表示，Harwood 使用聊天机器人把普通的、非色情照片转换成未经同意的色情图像。诉讼认为，这种行为让 xAI 面临巨大的法律和声誉风险。xAI 请求法院判令 Harwood 支付赔偿，并承担公司在应对受害者后续诉讼时产生的合理费用。公司还希望法官禁止 Harwood 再次创建 xAI 账户或继续使用 Grok。此案发生在 Grok 图像功能持续受到审视的背景下，包括此前的 “spicy” 模式和图像编辑能力都曾引发对色情深伪内容的担忧。

来源与参考

1. 原始链接
2. xAI sues a man for using Grok to generate CSAM ‘deepfakes’