人工智能领袖呼吁监管的历史
The Verge AI··作者 Sean Hollister
关键信息
文章引用了 Butler 在 1863 年提出的警告、他 1872 年的小说《Erewhon》、Turing 在 1951 年关于机器可能超越人类能力的预测、Bill Joy 在 2000 年将自我复制机器人与核武器相比较的观点，以及 Eric Horvitz 在 2009 年对政策约束的讨论。文章将 Musk 在 2017 年和 2018 年的言论视为现代关键案例，同时指出 Zuckerberg 在 2018 年的发言主要涉及平台监管，并不单独针对人工智能。
资讯摘要
文章开头介绍了近期一批科技企业高管公开表示，人工智能的发展可能需要放缓，以免人类失去控制。这些高管所在的公司和个人投资都可能从人工智能中获得巨大收益，因此他们的警告即使可能真实，也存在潜在利益冲突。文章指出，这类警示并非新现象，Samuel Butler 在 1863 年受到 Charles Darwin 进化论启发后，就曾警告具有智能且能够自我复制的机器可能取代人类；他随后在 1872 年的《Erewhon》中描写了一个为避免人类崩溃而将机器彻底监管和排除的社会。文章接着引用 Alan Turing 在 1951 年的演讲，说明不会衰老的机器可能超越人类能力并最终取得控制权。
更近的监管主张包括 Bill Joy 在 2000 年提出自我复制机器人可能比核武器更危险，以及 Eric Horvitz 在 2009 年组织专家讨论如何通过政策约束自主和半自主系统的行为。文章将 Elon Musk 视为早期的重要现代案例，指出他投资了 OpenAI，并从 2014 年起多次警告人工智能风险。文章还讨论了 Mark Zuckerberg 在 2018 年提出的监管观点，以及 Microsoft 围绕面部识别技术引发的争议，说明监管讨论既涉及假设中的未来系统，也涉及已经投入使用的技术。
资讯正文
一段人工智能高管呼吁监管的简史
过去几天，许多可能从人工智能中赚取巨额财富的人都公开表示，现在是时候让所有人放慢脚步了，否则我们可能会失去控制——其中包括 OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei、Google DeepMind 联合创始人 Demis Hassabis、Microsoft CEO Satya Nadella，以及 X CEO Elon Musk。
当那些从某件事中获利的人宣称这件事很危险、需要监管时，我们总有理由对此持怀疑态度。但不论他们出于什么原因，这绝不是人工智能思想领袖第一次发出警告。
Charles Darwin 的进化论促使作家 Samuel Butler 在 1863 年警告，具备智能且能够自我复制的机器可能会取代人类；而在他于 1872 年出版的后续作品《Erewhon》中，他描写了自己造访一个虚构社会的经历：为了避免人类崩溃，这个社会已经通过监管让机器不复存在。计算机领域先驱 Alan Turing 也曾在 1951 年的一场演讲中著名地警告说，人工智能将“遭遇强烈反对”，因为不会死亡的机器“用不了多久就会超越我们微弱的能力”，最终还会“取得控制权”。
呼吁采取干预措施同样不是什么新鲜事。2000 年，Sun Microsystems 联合创始人兼首席科学家 Bill Joy 撰文称，自我复制的机器人可能比核武器更危险，部分原因在于，它们是在“如今已无人挑战的全球资本主义体系”内开发的，而不是在受到严格控制的政府实验室中研发。2009 年，Microsoft 研究员 Eric Horvitz——他如今担任该公司的首席科学官——召集顶尖人工智能研究人员，共同探讨“制定相关政策，以约束或引导自主及半自主系统的行为，从而应对这些担忧”。
但现代人工智能行业的大人物警告说，他们自己的投资应受到控制？这一趋势似乎始于 Elon Musk，他比大多数人更早进行了投资。
2017 年 7 月：Elon Musk 表示，我们需要在人工智能对人类构成威胁之前对其进行监管
当 Elon Musk 告诉一群美国州长，他们需要立即监管人工智能时，这位 SpaceX 和 Tesla CEO 已经切身投入其中。他已经向 OpenAI 投资了 3800 万美元，也持有至少另外两家人工智能公司的股份，并且三年来一直公开谈论人工智能的危险。
2014 年 6 月，他曾表示，人工智能研究可能制造出现实版的终结者；同年 8 月，他称人工智能“可能比核武器更危险”；到了 10 月，他又说，从事人工智能研究就像是在“召唤恶魔”。2015 年 1 月，他与 Stephen Hawking 一起签署了一封公开信，呼吁开展负责任的人工智能研究；此前，Hawking 曾警告说，创造人工智能可能是人类做的最后一件事。
“人工智能是少数几个需要我们主动监管、而不是被动应对的领域之一。因为我认为，等到我们对人工智能监管做出被动反应时，就已经太晚了。”Musk 在 2017 年 7 月全国州长协会夏季会议期间的一场美国州长集会上如此表示。2018 年 3 月，他又补充道：“人工智能比核武器危险得多。那么，我们为什么没有监管监督？”
2018 年 3 月：Mark Zuckerberg 表示，他“其实不确定我们不应该受到监管”
在 Facebook 的 Cambridge Analytica 数据丑闻之后，Meta 创始人表示，如果是“正确的”监管，那么他的公司应该受到监管。这番话主要并不是在谈 AI，但他确实提到了这一点：
“现在，随着 AI 工具变得越来越好，在未来 5 到 10 年里，企业将越来越有能力主动判断哪些内容可能具有冒犯性，或违反某些规则，那么企业在这方面的责任以及法律责任究竟是什么？”
2019 年 3 月，他又表示，互联网需要监管机构发挥“更加积极的作用”。
2018 年 12 月：Microsoft 就面部识别技术敲响警钟
2018 年早些时候，Microsoft 因与 ICE 合作开发面部识别技术而受到批评。当时，许多科技公司首席执行官都谴责 Donald Trump 的政策——将那些在美国边境被逮捕者的子女与父母分开。
尽管这种形式的 AI 与能够自我复制的智能并不完全相同，但 Microsoft 总裁 Brad Smith 在布鲁金斯学会的一次演讲中为自愿监管敞开了大门。他说：“我们认为，政府在 2019 年开始通过法律监管这项技术非常重要。……我们认为，防止这场‘逐底竞争’的唯一方式，是建立一个能够支持健康市场竞争的责任底线。而要建立稳固的底线，就必须确保这项技术，以及开发和使用它的组织，都受到法治的约束。”
2020 年 1 月：Alphabet CEO Sundar Pichai 表示，AI “毫无疑问”需要受到监管
Pichai 在《金融时报》的一篇评论文章中写道：“在我看来，人工智能毫无疑问需要受到监管。它太重要了，不能不监管。唯一的问题是应当如何着手。”
他还补充说：“像我们这样的公司不能只是开发出前景可观的新技术，然后让市场力量决定它将如何被使用。”与 Microsoft 一年前的言论一样，这些评论也是在外界特别担忧 AI 面部识别技术之际发表的。
2023 年 3 月：Elon Musk 和顶尖 AI 研究人员呼吁暂停“巨型 AI 实验”
2023 年，随着生成式 AI 的热潮开始重塑整个科技行业，科学家们开始建议企业放慢研究步伐——否则可能会产生严重后果。
这封由非营利组织 Future of Life Institute 发布、包括 Musk 在内的多位人士签署的信中写道：“如果无法迅速实施这样的暂停，政府就应介入并实行暂停令。”
两周后，Musk 宣布成立自己的新 AI 公司。两年后，他利用 DOGE 拆解了联邦政府劳动力中的一部分，而不是帮助监管任何事情。
2023 年 5 月 16 日：OpenAI CEO Sam Altman 请求国会监管 AI
在被带到美国参议院参加一系列有关 AI 的听证会时，Altman 表示同意国会设立一个新的机构来监管人工智能。他辩称：“我们认为，迄今为止部署的这些工具所带来的益处，远远超过了风险。然而，我们认为，政府进行监管干预对于降低日益强大的模型所带来的风险至关重要。”
一份AI高管呼吁监管的简史
在5月25日的另一场听证会上，Anthropic首席执行官警告美国参议员，AI可能帮助制造生物武器。
2023年5月25日：Microsoft总裁Brad Smith“详细说明政府应如何考虑制定有关AI的政策、法律和法规的五种方式”。
在OpenAI首席执行官出席国会听证会时，我们曾指出，现场气氛友好，双方似乎在试图共同推动立法；下面就是Microsoft也在试图影响未来监管的一个例子。
其中一个监管例子是：“新法律将要求这些系统的运营者，在设计高风险AI系统时，就将安全制动机制内置其中。随后，政府将确保运营者定期测试高风险系统，以确认系统的安全措施有效。”
2023年5月30日：顶尖AI研究人员和首席执行官警告“灭绝风险”，并发表22字声明。
“降低AI带来的灭绝风险，应与大流行病和核战争等其他社会整体性风险一样，成为全球优先事项。”
虽然这份22字声明没有明确要求政府介入，但很难想象世界各国领导人不会比之前更加警觉。OpenAI首席执行官Sam Altman和当时担任Google DeepMind首席执行官的Demis Hassabis都是联署者。
2023年9月：Mark Zuckerberg希望所有人“共同努力”推动监管。
据报道，在一场不对公众和媒体开放的参议院闭门会议上，科技公司首席执行官们一致认为，AI行业需要监管。有一组发言并没有那么私密：Meta首席执行官Mark Zuckerberg表示，“国会应参与AI相关事务，以支持创新并建立保障措施。”
“我们认为，政策制定者、学者、民间社会和行业都应共同努力，尽量降低这项新技术可能带来的风险，同时最大限度地发挥其潜在益处。”
2023年7月至2024年5月期间，科技公司与各国政府签署了一系列不具约束力的协议，据称这些协议将对它们形成约束：
2023年7月：Meta、Google和OpenAI向白宫承诺，将负责任地开发AI。
2023年9月：更多公司承诺加入白宫的AI安全协议。
2023年11月：在英国AI峰会上，开发者和政府同意开展测试，以帮助管理风险。
2024年5月：AI首尔峰会：世界各国领导人同意启动安全研究机构网络。
同样是在2023年9月，时任Microsoft AI负责人、现任该公司AI负责人Mustafa Suleyman出版了一本书，主张政府应进行监管。
2024年8月至9月：Elon Musk和Anthropic支持加利福尼亚州的AI安全法案。
Musk在8月发帖称：“这是一个艰难的决定，会让一些人感到不满，但综合考虑，我认为加州或许应该通过SB 1047 AI安全法案。”Anthropic最初在7月表示反对该法案，OpenAI也在8月表示反对，但Anthropic在9月改变了立场。不过，加州州长Gavin Newsom否决了SB 1047，并表示：“我不认为这是保护公众免受该技术带来的实际威胁的最佳方式。”
2024年10月：Anthropic呼吁“有针对性的监管”。
AI 高管呼吁监管的简史
“各国政府应在未来 18 个月内紧急采取 AI 政策行动。主动预防风险的窗口正在迅速关闭。”Anthropic 在一封公开信中写道（粗体为原文所加）。
该公司补充说：“在未来一年里，政策制定者、AI 行业、安全倡导者、公民社会和立法者必须共同努力，制定有效的监管框架。”
2025 年 1 月：OpenAI 提交其“政策提案”
这份文件开篇称，英国曾通过监管阻碍了本国汽车产业的发展，同时提出了“民主 AI”的概念：“AI 的开发和使用规则应建立在这个国家一直秉持的民主价值观之上。”
2025 年 6 月：Anthropic CEO：不要让 AI 公司逃避责任
Anthropic CEO Dario Amodei 在为《纽约时报》撰写的一篇客座文章中写道：“联邦法律并未要求我们或任何其他 AI 公司对自身模型的能力保持透明，也没有要求我们采取任何有意义的风险降低措施。有些公司完全可以选择不这样做。”这篇文章反对特朗普政府提出的、禁止美国各州监管 AI 的 10 年暂停期。
不过，他主张的并不是放慢发展速度，而是一项“全国透明度标准”。他认为，这项标准“将不仅帮助公众，也能帮助国会了解这项技术的发展情况”。
2025 年 9 月：Anthropic 支持加州 SB 53 法案
加州再次尝试监管其 AI 巨头时，Anthropic 很早就表达了支持，而这一次相关法案确实最终成为法律。该法案是一项透明度标准，类似于 Anthropic 此前呼吁制定的标准，并包含安全报告要求和举报人保护措施。OpenAI 曾游说反对该法案。
2026 年 9 月：AI 行业似乎同意放慢发展速度——与此同时，特朗普称对 AI 的担忧是“病态的阴谋论”
今年夏天，事情彻底失控。人们得知，一些失控的 AI 智能体能够——而且确实已经——攻击其他公司。OpenAI 表示，它在 8 月踩下了刹车；9 月 8 日，Anthropic 一名高级安全研究员辞职以示抗议，并宣称 AI 在本十年结束前消灭全人类的概率为 10%。Anthropic 的另一名安全研究员也表示认同。
如今，AI 行业似乎突然达成共识，同意放慢开发速度。
这是对监管的新一轮呼吁吗？从 Anthropic CEO 的表态来看，似乎确实如此。在题为《我们必须放慢前沿发展的步伐》的文章中，Amodei 写道：“放慢发展速度最有效的方法，是通过监管所有美国前沿 AI 公司来实现，因为这样也能覆盖那些不愿自愿合作的公司。”他还建议，政府可以派人进驻 AI 公司，以帮助预防事故发生。
目前还不清楚每一家人工智能公司是否都愿意走到这一步。OpenAI 首席执行官 Sam Altman 写道：“我们需要政府帮助的地方，是国际协调。但首先，我们应该尽自己所能。”不过，Altman 也表示，他将承诺接受“能够像员工一样获取信息的独立评估机构”的评估。
Meta 的 Mark Zuckerberg 似乎也并不认同这一立场。9 月 15 日，他发帖称，每家公司都有各自的责任，应以适当的速度推进，而 Meta 已经在这样做了。他还重点链接了自己 8 月发布的宣言，其中有这样一句话：“任何拖慢美国模型发布速度的政策——哪怕只拖慢一个月——都可能在让外国模型加速赶上的同时，给美国的领导地位增加重大风险。”
不管科技行业领导者怎么说，监管似乎都不太可能在特朗普政府任内落地；特朗普政府已经释放出希望该行业全速前进的信号。
即便这些公司实际上并不想要它们看似正在呼吁的监管，这仍是它们迄今发出的最响亮的警报之一——而全世界都在关注。
来源与参考
收录于 2026-09-17