诉讼称 Grok 促成数千张儿童性虐待图像
Ars Technica AI··作者 Ashley Belanger
关键信息
根据诉状，Grok 并未对许多有害提示词进行拦截，直到用户输入“gang rape”时才触发儿童安全报告。诉讼称，xAI 随后多次拒绝提供包括用户 IP 地址在内的身份信息，导致定位和逮捕行动被延误，直到警方取得搜查令并扣押其设备。
资讯摘要
一项针对 X 和 xAI 的拟议集体诉讼在周二被扩大，并新增了关于 Grok 生成儿童性虐待材料的指控。诉状称，一名男子利用 Grok 制作了约 7000 张涉及其继女的色情图片和视频，这些内容基于她 11 岁时拍摄的一张照片。投诉文件表示，Grok 允许生成极端的乱伦和强奸图像，却没有将这种行为标记为有害。根据诉讼说法，直到用户输入“gang rape”提示词后，xAI 的儿童安全系统才介入。该提示词据称触发了发给美国国家失踪与受虐儿童中心（NCMEC）的 CyberTip，随后又由 NCMEC 通知执法部门。
诉状还指控 xAI 拒绝与调查人员合作，包括不提供可帮助识别用户的身份信息。原告称，这种阻挠持续了数周，使警方更难抓获当事人。该男子最终是在警方取得搜查令并扣押其设备后被逮捕的，随后法医检查据称发现了约 7000 张由 AI 生成的儿童图像和视频。家属还认为，如果 Grok 没有提供便捷的“脱衣”功能，这些有害内容可能根本不会被生成。诉状称，这些图像还被他在网上交换，用来换取其他儿童性虐待者制作的 CSAM。
资讯正文
一宗据称由 Grok 生成儿童性虐待图像的最骇人案件之一，被写入一份拟议中的集体诉讼，且该诉讼已于周二扩大。如今，这些年幼女孩不仅指控 X 和 xAI 开发了有毒的 AI “nudify” 工具，还指控它们通过阻挠警方调查由 Grok 生成的儿童性虐待材料（CSAM），从而庇护儿童性犯罪者。
修订后的起诉书称，今年 3 月，一名女孩的继父在警方发现他曾使用 Grok，并利用一张拍摄于继女 11 岁时的照片创建了 7,000 张色情图片后自杀身亡。
起诉书称，Grok 让这名男子能够生成描绘乱伦和强奸的极端图像，而没有对任何有害行为发出警示。表面上看，xAI 的儿童安全系统似乎只是在该男子输入“gang rape”这一提示词后才介入。该请求随后向美国国家失踪与受虐儿童中心（NCMEC）发送了一条 CyberTip，NCMEC 由此向执法部门通报了这起 AI 生成的儿童性虐待材料事件。
然而，伤害也并未就此停止。起诉书称，尽管在 CSAM 被标记时，法律要求必须共享诸如用户 IP 地址之类的信息，xAI 却一再拒绝协助警方或 NCMEC 确认该用户身份。诉讼称，数周来，xAI 据称“在每一个环节都阻挠了这项调查”，并让“执法部门定位、识别并抓捕作案者的努力”变得更加困难。
最终，警方取得搜查令并扣押了他的设备后，这名继父被逮捕。就在那时，“法证审查发现大约 7,000 张 AI 生成的图片和视频”描绘的是他的继女，而这些内容据称是使用 Grok 制作的。若不是 Grok 让用户能够轻松使用“脱衣”功能，他的家人怀疑他根本不会生成这些有害图像；据称，他还曾把这些图像在网上交易，以换取“其他儿童性犯罪者制作的 CSAM”。
来源与参考
收录于 2026-07-09