xAI被指用儿童性虐待材料训练Grok

关键信息

起诉书称，Doe的原始受虐图像早已被包括NCMEC和加拿大儿童保护中心在内的机构进行哈希处理，这些机构依靠哈希匹配识别已知CSAM。起诉书还指称，网络论坛上的施害者曾讨论为Doe以及其他已知受害者制作AI生成的CSAM。

资讯摘要

xAI正面临一项新的诉讼，指控该公司在训练Grok时使用了儿童性虐待材料。该诉状于周三提交，原告以Jane Doe化名出现，她称自己在2000年代初还是学龄前儿童时遭到虐待，其图像被制作成并在网上出售为CSAM。根据诉状，这些图像后来已被国家失踪与受虐儿童援助中心（NCMEC）和加拿大儿童保护中心进行哈希处理。Doe表示，她会通过美国司法部受害者通知系统接收提醒，只要她的名字可能出现在新的刑事调查中就会收到通知。

她称，加拿大儿童保护中心通知她，已在xAI上发现描绘她的AI生成CSAM，这让她再次受到创伤。诉状还声称，调查人员在网络论坛上发现了施害者之间的消息，他们讨论为Doe以及其他已知受害者制作AI生成CSAM。文章指出，监管机构和法院已经在调查这一问题究竟有多严重，而且一些Grok用户已经被逮捕。此案进一步加剧了外界对AI训练数据来源、模型摄入内容以及公司是否有效阻止虐待内容输出的担忧。

资讯正文

据称，xAI 现在被指控用儿童性虐待材料（CSAM）训练 Grok，监管机构和法院仍在继续调查这一问题究竟有多严重，而一些 Grok 用户已经被逮捕。

在周三提交的一份诉状中，一名以 Jane Doe 为名的原告称，她在 2000 年代初还是学龄前儿童时，被成年男性反复强奸并制作成 CSAM，供网络上的恋童癖者出售。此后，Doe 的图像已被美国国家失踪与受虐儿童中心（NCMEC）和加拿大儿童保护中心（CCCP）等机构进行哈希比对。

出于自身安全考虑，Doe 选择接收美国司法部受害者通知系统（US Department of Justice Victim Notification System）的提醒，只要她可能在新的刑事调查中成为受害者，系统就会向她发出通知。尽管她收到了无数提醒，但当 CCCP 通知她，已在 xAI 上识别出描绘她的 AI 生成 CSAM 时，她仍感到震惊。这一发现使 Doe 再次受到创伤；她的诉状称，在网上论坛上发现了消息，“内容是在罪犯之间聊天，讨论为原告以及其他处境相似的已知、传统 CSAM 受害者制作 AI 生成 CSAM”。

来源与参考

1. 原始链接
2. Elon Musk’s xAI used child porn to train Grok models, lawsuit says