批判萨姆·阿尔特曼的‘温和奇点’AI愿景
Ars Technica AI··作者 Nate Anderson
关键信息
阿尔特曼设想了一个自我强化的循环：人形机器人建造更多机器人和基础设施，无限加速进步；但文章质疑该模型是否考虑了经济冲击、就业替代或伦理风险。
资讯摘要
萨姆·阿尔特曼的《温和奇点》文章描绘了一个理想化的未来：人工智能驱动的自动化将带来指数级增长且几乎没有负面后果。他声称人类会迅速适应岗位流失并享受日益增长的繁荣。然而，文章反驳称这种叙述忽视了工业革命等重大技术变革后的不平等、社会动荡和环境破坏的历史模式。
它还质疑大规模部署人形机器人来管理复杂供应链并建设先进基础设施的可行性。作者指出，阿尔特曼的乐观可能源于对系统性风险缺乏了解，或是为了投资者和政策制定者而进行的战略性宣传。最终，这篇文章呼吁读者质疑这些乌托邦愿景是否建立在现实中，还是仅仅是具有说服力的叙事。
资讯正文
我并不需要——幸运的是——去关注山姆·阿尔特曼（OpenAI首席执行官）对世界的每一句话。这些言论中很多看起来更像是‘推销’或‘路演’，而不是认真探讨未来。即使它们是真诚的信念表达，也常常读起来像一个青少年第一次写的科幻小说，灵感来自大麻和太多《星际迷航》。
比如，阿尔特曼去年发表在博客上的文章《温和的奇点》（A Gentle Singularity），被近60万人阅读过。它的核心论点似乎是：人工智能只有好处；到目前为止一切都很顺利，未来会更加美好！我的意思是，只要等我们造出机器人，把AI塞进去，再让这些机器人去制造更多机器人就行了。
如果我们必须用传统方式制造第一批一百万个类人机器人，但之后它们能操作整个供应链——挖矿、提炼矿物、驾驶卡车、运行工厂等等——来制造更多机器人，而这些机器人又能建造更多的芯片制造厂、数据中心等等，那么进步的速度显然会完全不同。
一切都变得更好了；事实上，由于这种“自我强化循环”，进步速度还会越来越快。缺点呢？这是个陷阱问题！根本不存在真正的缺点，因为人们很快就会习惯新事物。听听它是多么美好：
技术进步的速度将持续加速，人们适应几乎任何事情的能力也会持续存在。当然会有困难的部分，比如某些职业类别会消失，但另一方面，世界将迅速变得更加富有，以至于我们能够认真考虑以前从未想过的新政策理念。我们可能不会一下子采用新的社会契约，但几十年后回望，那些渐进的变化累积起来将产生巨大影响。如果历史是参考，我们会找到新的事情去做，新的需求去追求，并快速吸收新工具（工业革命后的就业变迁就是一个很好的近期例子）。期望值会上升，能力也会同样快速提升，我们都会拥有更好的东西。我们将为彼此建造越来越奇妙的事物。
如果历史是个参考，我们会发现新的事情去做，产生新的需求，并迅速适应新工具（工业革命后的职业变迁就是一个近期很好的例子）。期望会提升，但能力也会同样快速提升，我们会拥有更好的东西。我们会为彼此创造越来越精彩的事物。
也许你最近环顾四周，会疑惑‘为彼此创造越来越精彩的事物’是否真的能准确描述你所看到的世界。
但你可能有的任何疑虑——比如对工业革命后世界疯狂暴力的疑问，或者‘更好东西’是否真的是解决许多人类问题的办法——在Altman的世界里几乎都不需要被认真对待。未来如此光明，我们甚至需要戴上（AI驱动的）墨镜！
（这种简单化的态度在聪明的硅谷人士中相当普遍。风险投资家、Netscape联合创始人马克·安德森在2023年写过一篇臭名昭著的文章，内容也完全是‘毫无副作用’的调子。文中充斥着非讽刺性的说法，比如‘我们曾面临孤独的问题，于是发明了互联网’；文章还充满了对‘我们前辈的伟大科技专家和实业家’的兰德式崇拜，夹杂几句尼采的引言，当然还有诸如‘我们不是原始人，躲在雷电前瑟瑟发抖；我们是顶级掠食者，雷电为我们服务’这样的惊人之语。
硅谷——那里连细微差别都消失了，‘傲慢’不过是‘成功’的同义词，而极客们自认为是顶级掠食者。
与此同时，科技投资人彼得·蒂尔在全球各地大肆宣扬反基督，而马克·扎克伯格则投入800亿美元打造失败的‘元宇宙’。这些人根本不是他们自以为的横扫世界的天才。但他们确实共享一种权力意志，以及一种理应掌握这种权力的认知。）
如果你对由像萨姆·阿尔特曼这样的人主导的世界到底有多美好心存怀疑，那么你应该读一读昨天我们姊妹刊物《纽约客》刊登的那篇关于他的长篇（长到离谱）人物特写。没错，文章超过16000字，没错，你会频繁遇到那个令人不安的变音符号（diaeresis），但这一切绝对值得你花时间去读。
我的同事阿什利·贝尔anger在讨论OpenAI最新发布的‘产业政策’文件时已经提到了这篇文章，该文件也是昨天发布的。但我还想更仔细地看看这篇报道揭示了哪些关键硅谷公司掌舵人的个性特征。
罗南·法罗和安德鲁·马兰茨采访了超过百位人士，包括阿尔特曼本人，他们带回的报告相当令人沮丧；文中反复使用‘撒谎’和‘反社会人格’这样的词汇。以下只是部分相关引述：
一位董事会成员对[Altman]的言论给出了不同的解读：「他的意思其实是‘我有这种会欺骗他人的性格，而且我不会停止’。」
据《纽约客》2016年报道，Altman的兄弟称，他在童年时的态度是「我必须赢，我掌控一切」。
正如较早前在Loopt公司任职的马克·雅各布斯坦（Mark Jacobstein）告诉《乐观主义者》（The Optimist）一书作者基奇·哈吉（Keach Hagey）的那样——这位投资者曾请他担任Altman的「监护人」：「有一种模糊地带，即‘我认为我或许能完成这件事’和‘我已经完成了这件事’之间的界限，在最恶劣的情况下，会导致像伊丽莎白·霍姆斯（Elizabeth Holmes）的欺诈性初创企业Theranos那样的结果。」
微软多位高管表示，尽管萨蒂亚·纳德拉（Satya Nadella）一直忠诚于Altman，但公司与他的关系已变得紧张。「他误导、扭曲、重新谈判并违背协议，」其中一人说。
Altman拥有近乎执念的权力欲望，即便是在那些将自己的名字刻在飞船上的工业家群体中，他也显得与众不同。「他对真相毫无约束，」这位董事会成员对我们说。
Altman在第一期Y Combinator创业加速器项目中的同批学员之一是亚伦·斯沃茨（Aaron Swartz），这位才华横溢却饱受困扰的程序员于2013年自杀身亡，如今在许多科技圈被视作一位智者。在他去世前不久，斯沃茨向几位朋友表达了对Altman的担忧。「你需要明白，Sam永远不可信，」他对其中一人说。「他是个反社会人格者，什么事都做得出来。」
这篇文章记录了看似极为灵活的道德和政治立场。阿尔特曼在民主党的支持者与特朗普的密友之间自如切换，从希望‘疯狂的科幻未来对所有人成真’到与独裁者会面。几年前，AI安全曾是OpenAI明确使命的关键部分，但如今阿尔特曼追逐金钱、权力和交易时，这一目标已基本被搁置。
文章的一个潜在含义是，这些表现出的负面特质其实并不坏于商业；事实上，它们对短期业务非常有利。但从长期来看，当真正需要人们信任你时，它们是否仍然有益，仍是一个未解之问。
对于某些任务，AI确实令人惊叹；机器学习算法和大型语言模型背后的技术堪称精妙，但最卖力推销这些成果的，往往正是我不太喜欢或不信任的人和公司。（事实上，Anthropic曾用我的一本书来训练其数据库，现在正因这一行为在法庭上向作者支付赔偿。）如果同样的工具能由我本地掌控，由类似维基百科的非营利组织治理，并使用伦理来源的数据进行训练，我会更愿意使用它们。
然而，当前许多自负的技术和政治领袖所推崇的灵活原则和卡通式反派行为，可能导致公众对AI工具本身产生反感（甚至对整个‘硅谷科技圈’整体失望，我们已经看到这种趋势）。这正是OpenAI也识别出的一个严重问题。
当你观察马斯克、特朗普和阿尔特曼——这些文章中频繁提到的人物——就会明白他们为何处于同一圈子。深刻的思考、道德行为、坚定的诚信、自我认知……谁还需要这些东西呢？只要靠超人般的意志力，通过拼命努力、荒诞言论和强大决心，就能把现实扭曲成你想要的样子。
的确，我们早已生活在阿尔特曼承诺的科幻未来之中。而且他说得没错——这确实有点‘疯狂’。
来源与参考
收录于 2026-04-08