旧金山要求下架AI脱衣应用

关键信息

这些函件指称，应用商店违反了加州禁止为深度伪造色情内容提供支持服务的法律。Wired 还报道称，这类应用通常包含应用内支付，因此平台运营方在其上架期间也可能从中获利。

资讯摘要

旧金山城市检察官大卫·丘已经正式要求苹果和谷歌从各自的应用商店中移除13款“脱衣”应用。据 Wired 报道，这些停止侵权函是在本周发出的，理由是这些应用可以轻易把真实人物的普通照片变成露骨图像。这些工具能够去除衣物、改变面部特征、把人放到性化姿势中，甚至把受害者的脸替换到裸体身体上。丘的办公室表示，继续让这些应用上架，相当于在支持生成深度伪造色情内容的服务。

函件称，这种做法违反了加州法律。争议不仅在于应用本身的输出内容，也在于应用商店作为分发渠道所扮演的角色。Wired 还提到，许多此类应用都使用应用内支付，这意味着平台在应用上架期间可能从中抽成。此举进一步向苹果和谷歌施压，要求它们加强对可能被滥用于制作非自愿性内容的AI产品的审核。

资讯正文

本周，旧金山地方检察官 David Chiu 向 Apple 和 Google 发出了停止侵权函，要求它们从各自的应用商店中下架 13 款所谓的 nudification 应用，Wired 报道称。

nudification 应用可以轻而易举地将真实人物的普通照片变成露骨图像。这些有害的 AI 工具允许不法分子移除衣物、改变一个人的面部特征、把他们摆成性化姿势，并将受害者的脸替换到其他人的裸体身体上。

Chiu 的信中警告称，应用商店正在违反“加州禁止支持创建深度伪造色情内容的服务的法律”，Wired 报道称。

来源与参考

1. 原始链接
2. San Francisco orders Apple, Google to remove nudify apps from app stores