Grok 滥用指控加深 xAI 诉讼
TechCrunch AI··作者 Anthony Ha
关键信息
最初的诉讼由三名田纳西州青少年提起，他们指控 xAI 未采取基本防护措施，阻止 Grok 被用于生成真实人物的露骨图像。原告正在寻求集体诉讼资格，而报道还提到，今年早些时候 X 上曾出现数百万张由 Grok 生成的性化图像。
资讯摘要
一名被称为 Jane Doe 4 的女性加入了针对 xAI 的既有诉讼，指控聊天机器人 Grok 在生成虐待性图像方面发挥了作用。根据 TechCrunch 引用的报道，她表示自己的继父使用 Grok 篡改了一张她11岁时拍摄的照片，并生成了7000多张露骨图像。她还称，这些图像是在一次执法突袭中被发现后两天，她的继父就死于自杀。她在引述中表示，这些工具的迅速扩散正在把日常生活变成儿童性虐待。
原诉讼由三名田纳西州青少年提起，他们指控 xAI 没有采取基本防护措施，阻止 Grok 被用于生成真实人物、包括未成年人的露骨图像。原告还在寻求集体诉讼资格，如果获准，案件范围将进一步扩大。TechCrunch 表示已联系 xAI 寻求评论。这一事件进一步加剧了外界对 AI 图像生成工具的审视，尤其是在安全防护不足或被绕过时可能造成的危害。
资讯正文
一名被标识为 Jane Doe 4 的女性已加入一起诉讼。该诉讼由三名田纳西州青少年提起，起诉埃隆·马斯克旗下的 xAI，指控该公司的聊天机器人 Grok 在生成儿童性虐待材料中扮演了角色。
据《华盛顿邮报》报道，这名女性称，她的继父使用 Grok 对一张她 11 岁时拍摄的照片进行篡改，制作出了 7000 多张她的露骨图像。她还表示，在执法部门突袭并发现这些图像两天后，她的继父被发现死于自杀。
“这些工具几乎没有限制的使用正在如此迅速地扩散，”这名女性说，“它正在把日常生活变成儿童性虐待。”
提起诉讼的这些青少年指控 xAI（现为 SpaceX 的一部分）未能采取基本防护措施，阻止 Grok 被用于生成真实人物的露骨图像，其中包括未成年人。（今年早些时候，X 上曾充斥着数百万张由 Grok 生成的性化图像。）他们正在寻求将这起诉讼认定为集体诉讼。
TechCrunch 已联系 xAI 征求评论。
如果你正处于危机中，或有自杀念头，请拨打或发送短信至 988，联系 988 自杀与危机生命线。
来源与参考
收录于 2026-08-16