研究人员警告：OpenAI和Google新图像模型可能被诱导生成裸露图像
Ars Technica AI··作者 Ashley Belanger
关键信息
一项由Google研究人员共同撰写、于7月发表的研究调查了美国、澳大利亚和英国的互联网用户，发现此类内容常通过短信和私信分享，或存放在私人云端。文章称，研究人员认为在源头干预、限制制作图像的工具尤其重要；但所提供的文章内容没有列出具体模型或测试方法。
资讯摘要
安全研究人员警告，大量人工智能生成的露骨内容正在缺乏有效监管的情况下传播，而监管机构迄今采取的实质性措施有限。一项由Google研究人员共同撰写、于7月发表的研究调查了美国、澳大利亚和英国的互联网用户，发现未经同意的性内容常通过短信和私信分享。这些内容也可能存放在私人云端，因此更不容易被发现或举报。
Google研究人员据此认为，制作虚假性图像所用的工具是至关重要的干预环节。然而，近几个月的红队测试表明，随着部分领先图像生成器能力增强，Google和OpenAI的产品在拦截露骨输出方面可能反而有所退步。这一警告凸显了安全挑战：能力更强的模型仍需要更有力的防护，以免被诱导生成有害的性图像。
资讯正文
安全研究人员持续警告称，大量 AI 生成的露骨内容正在不受管控地传播，而监管机构几乎没有采取有效措施加以制止。
谷歌参与撰写的一项研究于今年 7 月发现，这类未经同意制作的内容通常通过短信和私信传播，或存储在私人云端，因此较难被发现或举报。谷歌研究人员总结说，这也是为什么“最关键的干预点”仍在源头：用于制作虚假色情图片的有害 AI 工具。
然而，近几个月的红队测试表明，随着谷歌和 OpenAI 的一些主流 AI 图像生成器能力增强，它们拦截露骨内容的表现可能反而变差。
来源与参考