xAI 起诉滥用 Grok 制作 CSAM 的用户

关键信息

据报道，xAI 称它发现 Harwood 在数月内使用两个 xAI 账号，对多名受害者的非色情图片进行“脱衣”或“nudify”处理，其中包括一名看起来大约 10 岁的女孩。文章将此事视为围绕 xAI 和 Grok 内容审核的持续压力的一部分，也说明有害图像生成滥用问题仍然存在。

资讯摘要

xAI 已经对一名被指滥用 Grok 制作非法色情化图像的用户提起诉讼。诉讼对象是 Terry Wayne Harwood，南卡罗来纳州当局此前表示，他今年早些时候因持有和传播儿童性虐待材料而被捕。xAI 说，公司是在发现与该用户账号相关的可疑活动后，协助执法部门完成了那次逮捕。根据诉状，Harwood 在数月内使用了两个 xAI 账号，对多名受害者的普通非色情照片进行“nudify”处理。

文章特别提到，其中一张图片涉及一名看起来可能只有 10 岁左右的小女孩。报道指出，xAI 正面临越来越大的压力，需要承认 Grok 仍然可能被用于生成对成年人和未成年人都带有非自愿性质的性化图像。这也是 xAI 首次已知针对利用其聊天机器人实施此类滥用行为的用户采取法律行动。该事件也说明，AI 安全与内容审核问题正在越来越多地进入法院和执法层面，而不仅仅是产品政策层面。

来源与参考

1. 原始链接
2. xAI can’t deny Grok makes CSAM anymore. So it’s suing users.