明尼苏达州立法禁止AI‘裸化’应用，违者最高罚款50万美元
Ars Technica AI··作者 Ashley Belanger
关键信息
法律豁免了Photoshop等需要用户技能才能操作的工具，而是针对那些只需一键就能实现裸化的应用程序；罚款将用于性侵、家庭暴力和儿童虐待受害者的援助服务。
资讯摘要
明尼苏达州通过了一项具有里程碑意义的立法，禁止生成真实人物虚假裸照的AI应用。该法律允许受害者起诉并获得赔偿（包括惩罚性赔偿），州总检察长可对每起事件处以最高50万美元罚款，所有罚款将用于性侵、家庭暴力和儿童虐待受害者的援助服务。这项法案是在一名男子用此类应用制作了80多名女性的虚假裸照后提出的，凸显了现有法律无法有效应对的问题。
RAINN协助制定法律，避免对Photoshop等合法软件产生意外影响。州长蒂姆·沃尔兹预计会签署该法案，执法将于8月开始。
资讯正文
本周，明尼苏达州成为首个通过法律禁止生成虚假AI裸照应用程序的州，这类应用可轻易对真实人物图像进行‘去衣’或性化处理。
根据该法律，设计用于‘去衣’图像的网站、应用程序、软件或其他服务的开发者，若受害者决定提起诉讼，可能面临巨额赔偿，包括惩罚性赔偿。这些违规产品还可能在该州被禁用。此外，明尼苏达州总检察长可对每张被确认为虚假AI裸照的行为处以最高50万美元罚款。法律规定，所有罚款将用于资助针对性侵犯、一般犯罪、家庭暴力和儿童虐待受害者的相关服务。
周三，明尼苏达州参议院以65票全票通过该法案。这一投票发生在上周众议院迅速通过该法案之后，19th News报道说。预计州长蒂姆·沃尔兹（Tim Walz）将在法案送达其办公室后签署生效。如果签署成功，该州将于今年8月开始执行禁令。
Ars未能立即联系到沃尔兹办公室获取评论。
一名明尼苏达男子用一款应用对80多名朋友进行了图像去衣处理
民主党参议员艾琳·梅耶·奎德（Erin Maye Quade）在明尼苏达州居民发现一名男子利用某款应用对社交圈中80多名女性图像进行去衣处理后，提出了这项法案。她在声明中表示，她期待沃尔兹签署该法案，因为这终于为受害者及其他受此类去衣应用普及影响的人提供了法律救济途径。
全国性非营利组织RAINN（美国国家强奸、虐待与忽视热线）也帮助推动了明尼苏达州法案的通过。据19th News报道，为防止行业游说反对该法案，RAINN在起草法律时咨询了科技公司，从而确保不会意外影响到如Photoshop等广泛使用的商业产品——这些工具虽然也可用于生成去衣图像，但需要用户具备一定的技术技能才能操作。该法律明确指出，其关注点在于这些去衣应用让全球越来越多的女性和儿童遭受伤害变得异常容易，因此豁免了那些要求用户必须具备‘专业技术能力’才能生成去衣图像或视频的产品或服务。
奎德表示：‘今天，我们引领全国保护妇女、儿童以及公共生活中的每个人，免受AI去衣技术带来的伤害。制造并免费提供这种技术的公司，不能再允许潜在的施害者通过一键点击，就滥用和侵害成年人及儿童。’
奎德在庆祝法案通过时表示感谢‘受害者幸存者们让这项法案得以成真’。
她说：‘他们以尊严和勇气，在委员会、媒体和执法部门面前讲述了自己的故事。他们的力量、智慧和倡导精神，正是我们今天通过这项法案的原因。他们一心一意致力于推动立法，确保类似事件不再发生在任何明尼苏达人身上。’
明尼苏达州通过禁止伪造AI裸照的法律；应用开发者可能面临50万美元罚款
去年9月，CNBC的一篇长篇报道揭露了一群明尼苏达州朋友最初是如何发现一位共同朋友正在制作数十名女性的伪造裸照的。这名男子道歉了，但他似乎并未帮助识别所有受害者。没有证据表明他曾经分享过这些图片，因此像《删除法案》这样的法律并不适用，而要证明他的恶意也使得依据报复性色情法律追究责任变得不太可能，19th News报道称。
这些女性对无法确保这些图片未离开他的电脑、也无法阻止这名男子继续生成伪造裸照感到震惊，于是她们与梅耶·奎德（Maye Quade）一起推动立法，从源头上解决这一问题。
其中一名被针对的明尼苏达州女性莫莉·凯利（Molly Kelley）告诉19th News，她花了两年时间致力于“在伤害实际发生时——也就是在生成阶段——找到缓解方法”。
“这些图像的存在离不开第三方参与和某种机器学习模型，”凯利说。
然而，即使沃尔兹（Walz）签署该法律，仍存在一些紧张关系，可能导致执法困难。
凯利告诉19th News，她相信该法律能够应对任何美国公司试图起诉阻止它的法律挑战，但一个州要对其他国家的应用程序制造商执行这项法律，很可能非常困难，甚至不可能。值得注意的是，攻击明尼苏达州女性的服务DeepSwap是由海外运营的，有时声称其总部设在香港和都柏林，CNBC报道称。
19th News指出，预计各州难以监管外国应用程序，这也是为什么联邦层面的禁令更可取的原因。
此外，如果唐纳德·特朗普重启取消人工智能行业监管的努力，阻止像明尼苏达州这样的州要求采取安全措施的法律生效，倡导者担心这项法律将形同虚设。
未经监管的美国工具如Grok可能面临处罚
如果沃尔兹将这项法律写入法典，一些美国企业可能被迫做出改变，否则将面临罚款。
甚至埃隆·马斯克（Elon Musk）的xAI也可能面临罚款，如果明尼苏达人能证明Grok被用于未经同意的脱衣图像生成。
Grok缺乏防止输出非同意亲密图像或涉嫌儿童性虐待材料的保护机制，已引起政府调查，并引发妇女和儿童提出的集体诉讼。今年1月，X Safety声称Grok已更新以停止生成脱衣图像，但NBC新闻上个月的审查发现，“过去一个月内在马斯克的社交媒体应用X上公开发布了数十张AI生成的性图像和视频，描绘的是真实人物。”
马斯克否认自己见过任何一起由Grok生成的儿童性虐待材料（CSAM）。但研究人员估计Grok每小时生成数千张有害图像的说法正越来越得到受害者的诉讼支持，他们不断曝光未经同意的图像。
与此同时，当局正在接近结案，逮捕与Grok相关的案件。在NBC新闻报道发布一周后，纳什维尔警方指控一名男子犯有“利用Grok AI生成儿童性虐待图像进行未成年人性剥削”的罪行。
据新闻稿称，警方是在收到“多个关于在线账户中持有儿童性虐待材料的网络举报信息”后得知此事的，该账户与Grok相关联。值得注意的是，警方指出，Grok在2025年9月至2026年3月期间生成了这些有害图像，这远远晚于X公司声称已移除该功能的时间。
除了Grok之外，研究人员还指出，在Meta平台上广告推广的数千款“换装”类应用引发了至少一起诉讼，CNBC报道称，Meta声称一家香港应用开发者违反了广告商条款。如果该法律生效，任何在美国境内运营并在Facebook或Instagram上公开投放广告的服务都可能成为明尼苏达州提起的诉讼目标。
同样，那些设法绕过审核、尽管违反使用条款却仍出现在谷歌和苹果应用商店中的“换装”类应用也可能面临法律关注。
xAI尚未回应Ars请求置评的请求。
来源与参考
收录于 2026-05-02