公开信分歧AI政策与开放权重
Simon Willison··作者 Simon Willison
关键信息
这封由 Microsoft 支持的公开信认为，闭源模型并不天然更安全，而开放权重模型能让研究人员和开发者检查行为、发现漏洞并构建防护措施。信中还明确为蒸馏辩护，将其描述为一种正常的模型改进技术，而不是不当挪用。
资讯摘要
Simon Willison 把最近几封试图影响 AI 发展与美国政策的公开信整理成了一篇概览。首先是由 Microsoft 牵头的《Open Weights and American AI Leadership》，日期为 7 月 24 日，签署者共有 235 家 AI 生态相关公司和组织。信中认为，仅依赖闭源模型并不天然安全，因为这类系统可能被入侵、被滥用，或者以外部无法观察到的方式失效。公开信主张，开放权重模型可以分散风险、增强竞争，并让更广泛的研究者和开发者社区检查模型行为、发现漏洞并建立防护措施。值得注意的是，这封信还明确支持蒸馏，并把它描述为一种长期存在且合法的模型改进、评估和验证方法。
Willison 指出，Anthropic 并未出现在签署名单中，随后还发布了自己的回应，强调对威权政府、网络攻击或生物攻击被滥用的担忧，同时表示 Anthropic 从未主张禁止开放权重模型。Anthropic 还呼吁打击工业规模的蒸馏操作。最后一封是 7 月 28 日发布的《Pacing the Frontier》，共有 1,324 名前沿 AI 公司员工签名，包括 OpenAI、Anthropic 和 Safe Superintelligence 的人员。那封信要求美国政府支持一项国际努力，以开发技术和治理工具，主动控制自动化 AI 开发前沿的推进速度，反映出人们对竞争压力和自动化 AI 研究正在加速进展的担忧。
资讯正文
关于 AI 发展的公开信
我把过去几周这些公开信写成了一篇简短总结，原本是我仅限赞助者阅读的通讯中的一个部分，但我决定也在这里分享。
由微软牵头、日期为 7 月 24 日的《Open Weights and American AI Leadership》公开信，得到了 235 家与 AI 相关公司的签署，包括 NVIDIA（见 Jensen 的<a href="https://twitter.com/jensenhuang/status/2080643682408321103">首条推文</a>）、Amazon、Y Combinator、The Linux Foundation，以及后来签署的 OpenAI。
这显然是一篇旨在反驳<a href="https://www.axios.com/2026/07/20/ai-us-china-open-source-kimi">美国现政府任何</a>因“安全”担忧而禁止或限制开权重模型的倾向的论述——考虑到<a href="https://simonwillison.net/2026/Jun/13/us-government-directive-to-suspend-access/">Claude Fable 5 发生的事情</a>，这种担忧是可以理解的！
<blockquote>
<p>仅仅依赖闭源模型并不天然安全：它们可能被攻破、被滥用，或者以外部无法察觉的方式失效。而把先进 AI 能力集中在少数几个闭源模型之后，只会加剧这种风险。这样会造成少数几个单点故障，削弱竞争，并把关键技术留在少数提供商手中。相反，开权重模型使更广泛的研究人员和开发者社区能够审视它们的行为、识别漏洞、制定防护措施，并随着时间推移不断改进它们。</p>
</blockquote>
这封信里唯一令人意外的一点，是它明确支持蒸馏，即模型利用其他模型的输出进行训练：
<blockquote>
<p>在塑造这一生态系统时，政策制定者应谨慎，不要把正当的模型开发技术与挪用行为混为一谈。蒸馏，或使用一个模型的输出来帮助训练或改进另一个模型的做法，是一种被广泛使用的模型改进、评估和验证技术。它体现了一种悠久的学习、借鉴并改进既有技术的传统；自开源软件运动兴起以来，这一传统一直推动着创新发展。</p>
</blockquote>
值得注意的是，签署名单中没有 Anthropic；三天后，他们发布了自己的回应《Our position on open-weights models》。CEO Dario Amodei 进一步强调，威权政府可能会打造出“比美国制造的更强大的 AI 模型”，以及模型可能被“滥用于实施网络攻击或生物攻击”的风险，并呼吁“严厉打击工业规模的<a href="https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks">蒸馏操作</a>”，同时也表示“Anthropic 从未主张过禁止开权重模型”。
随后，在 7 月 28 日，《Pacing the Frontier》发布，署名来自“1,324 名前沿 AI 公司员工”——其中包括 Jakub Pachocki（OpenAI 首席科学家）、Ilya Sutskever（Safe Superintelligence Inc，前 OpenAI）、Dario Amodei（Anthropic）、Jack Clark（Anthropic）等人。他们的核心信息是：
我们请求美国政府支持一项国际努力，以开发所需的技术和治理工具，刻意放慢自动化 AI 开发的前沿推进速度。
他们担忧的是：在自动化 AI 研究推动下，激烈的竞争压力与加速的 AI 进展叠加在一起——而考虑到 Anthropic <a href="https://www.anthropic.com/institute/recursive-self-improvement">用 Claude Code 生成了 80% 的代码</a>，OpenAI 曾让 Sol <a href="https://openai.com/index/gpt-5-6-frontier-intelligence-efficiency/">将其端到端服务成本降低 20%</a>，以及 Kimi K3 <a href="https://www.kimi.com/blog/kimi-k3#chip-design">为一款基于自身架构构建的 nano 模型设计了一款芯片</a>，你就能理解为什么人们如今对这种风险看得更加 गंभीर。
来源与参考
收录于 2026-08-03