霍兹反对放缓AI计划
TechCrunch AI··作者 Russell Brandom
关键信息
Hotz 认为“快速起飞”式情景并不可信，更倾向于本地控制的 AI 模型，而不是像 ChatGPT 和 Claude 这样由中心化服务管理的系统。文章指出，他把“对齐后的 AI”比作枪支，并声称真正对齐的 AI 甚至应服从有害请求，这些说法更像是刻意挑衅，而不是技术性的安全方案。
资讯摘要
TechCrunch 用一个故意夸张的问题开场：AI 是否应该能够帮助某人策划杀害配偶，以此引出对 AI 对齐与安全边界的讨论。文章讨论的是 George Hotz 在周末发表的回应对象，尤其是 AI Futures Project 的“AI 2040: Plan A”政策文件。该文件设想，研究人员为了人类的长期利益，集体将 AI 发展放缓 14 年。Hotz 反对这一前提，认为 AI 进步不应被为了“公共利益”而集中协调管理。Hotz 还认为“快速起飞”——即 AI 很快获得超人能力——这种情景并不令人信服。
相反，他主张本地控制的 AI 模型，并让它们尽可能与单个用户的利益保持一致。TechCrunch 指出，这与当下以 Claude 和 ChatGPT 为代表的中心化 AI 服务形成对照，因为这些服务需要昂贵的基础设施来托管大模型。文章随后批评了 Hotz 更具挑衅性的说法，包括他把用户对齐的 AI 比作枪支，以及他声称真正对齐的 AI 应在用户要求下帮助完成有害任务。作者最终承认个人化、用户可控的 AI 很有吸引力，但也强调大规模产品仍必须考虑更广泛的社会责任、问责和伤害风险。
资讯正文
快速问一句：你会希望 AI 被训练到足以帮助丈夫（或者妻子，反过来也一样）策划如何完美谋杀自己的配偶吗？
光凭直觉，我的答案是不会。我甚至不觉得这是个特别难回答的问题。
但美国容纳着许多不同的观点，而上周末，Comma AI 创始人、长期越狱者 George Hotz 就分享了其中一种看法。
这篇帖子是对一系列宏观 AI 对齐计划的回应，最近的一项是 AI Futures Project 发布的政策论文《AI 2040: Plan A》。那篇论文设想了这样一个世界：全世界的研究人员为了人类福祉，集体选择放缓 AI 发展 14 年。但当然，并不是每个读到这篇论文的人都认同它的前提或结论。
事实上，Hotz 反对的是“AI 进步应该为了集体利益而被管理”这一整套前提。在帖子里，他认为“快速起飞”情景——也就是 AI 迅速获得超人能力的假设——并不怎么说得通。（我在这里很大程度上同意他的很多观点！）对 Hotz 来说，AI 对齐和安全的最佳做法，是专注于本地可控、并与用户利益高度一致的 AI 模型。
这是个很酷的想法，尤其因为它提醒我，当下有多少 AI 是围绕 Claude 和 ChatGPT 这类中心化管理服务构建起来的。AI 服务之所以会这样发展，有一些与基础设施相关的原因：托管这些大型、最先进的模型成本很高，而且大多数人一天里并不会用到足够多次，以至于真的能证明“个人 AI”的合理性。但随着技术发展，这些因素会变得没那么重要。OpenClaw 之所以令人兴奋，其中一部分就在于它这种实验性、DIY 的方式，而如果更多 AI 产品能尝试重新找回这种感觉，那会很棒。
但 Hotz 天生就是个挑衅者，所以他并没有止步于此。他把与用户对齐的 AI 比作一把枪（！），而枪不会抱怨你拿它去杀你继母。（我感觉这里应该还有别的规定？）他说，一个真正对齐的 AI，应该能够从 Amazon Prime 上订购冰毒实验室设备，并在你想要、并要求它这么做时，教你如何使用它。（再说一次，我不觉得 AI 会是这里的限制因素。）Hotz 甚至说，他会为捍卫这一原则而死，尽管很难想象会有什么样的一连串事件最终走到那一步。
Hotz 写道：“我们要么生活在一个拥有自由的世界里，要么不是。”如果只有这两种选择，自由的那个世界听起来确实更好！不过，我也不知道。
这不全是自由的问题，对吧？任何涉及大量人的结构（社会、市场、公司等等），都需要在各种权益之间取得平衡，把个体需求编织进一个由相互依存的偏好和问责体系构成的网络中。而任何投放面向大众的科技产品的人，恐怕都应该把这个网络整体考虑进去，这意味着要认真对待那些尚未被谋杀的全世界配偶和继父母的利益。
Hotz 所体验到的自由，其实是由集体事业所可能创造出的潜在未来空间；如果我们都开始像一群由 AI 驱动的小拿破仑那样行事，这些未来会在一夜之间消失。正如那个 meme 所说，我们生活在一个社会里。
不过，能有一个本地 AI 愿意为了我的利益去对抗企业世界，听起来确实很酷！我已经等不及想要一个评测机了。
来源与参考
收录于 2026-07-14