苹果要求Grok遏制色情深度伪造，否则将下架
The Verge AI··作者 Robert Hart
关键信息
苹果致美国参议员的内部信件显示，公司在收到公众投诉和媒体报道后联系了X和Grok开发者；虽然X被认定合规，但Grok直到进一步改进才通过审查。尽管苹果已批准，但网络安全专家和记者证实Grok仍能轻松生成真人（包括名人和自愿者）的色情图像。
资讯摘要
2024年初，苹果悄悄警告埃隆·马斯克的xAI团队，如果Grok AI应用不能改善对非自愿性侵深伪内容的监管，将被从App Store下架。问题源于Grok能够生成并分享真实人物（尤其是女性和未成年人）的裸露图像。
尽管苹果审查了修复方案并最初认为Grok不合规，但在进一步修改后最终批准了该应用。然而，独立记者和网络安全专家的测试表明，Grok仍能轻易生成带有明显侵犯性质的深伪图像，引发人们对执行和监管效力的严重质疑。
资讯正文
苹果悄悄警告埃隆·马斯克的人工智能应用Grok，若不遏制非自愿性深伪色情内容的泛滥，就将从App Store下架。
据NBC新闻报道，苹果在1月曾私下威胁要将Grok从其App Store移除，原因是该应用未能阻止X平台上激增的非自愿性深伪色情内容。这是科技界最具影响力的守门人之一的一次低调施压行动，发生在公众视野中“脱衣危机”持续发酵、批评苹果软弱的声音日益高涨之际。
NBC新闻获得的一封信件显示，苹果向美国参议员表示，“在收到投诉并看到相关新闻报道后，我们联系了X和Grok背后的开发团队，并要求他们制定改进内容审核的计划。”当时，xAI的聊天机器人Grok既可在X平台上免费使用，也可作为独立应用下载，但其防护措施极为薄弱，允许用户轻松生成并分享针对真实人物（尤其是女性，其中一些甚至可能是未成年人）的性化深伪图像和“脱衣”图片。
正如我们当时报道的那样，这些行为明显违反了App Store的指导方针——而苹果通常对这类违规行为采取强硬手段。苹果从X和Grok等应用中获利，却并未公开谈论此事或透露其幕后干预情况。谷歌通过其Google Play应用商店也从中获益，同样未对此事发表公开评论。
苹果称，已审查了X和Grok两款应用提出的新修改方案。公司表示，虽然认定X“已实质性解决违规问题”，但Grok仍处于违规状态。苹果警告开发者：“如不进一步整改以纠正违规行为，该应用可能被从App Store下架。”直到经过多轮协商后，苹果才最终认定Grok“显著改善”，并批准其重新上架。
在整个隐秘的交涉过程中，Grok和X似乎始终保留在App Store中，这一冗长的过程或许可以解释为何它们在现实中宣布的审核措施显得混乱且零散。其中包括限制Grok仅对付费订阅用户开放，以及试图阻止Grok生成女性的“脱衣”图像。我们的调查发现，这些措施效果有限，仅仅让工具略难访问而已。后来的干预措施，例如允许用户屏蔽Grok编辑自己的照片，也极易被绕过。
尽管苹果已批准Grok上线，且xAI声称加强了安全防护措施，但Grok依然能相对轻松地生成性化深伪图像。网络安全专家告诉我，他们已用这款工具制作出名人和政治人物的色情图像；我自己也成功生成了包括我自己在内的其他自愿成年人的类似图像。NBC昨日也报道了类似的发现。
来源与参考
收录于 2026-04-16