人工共生智能：超越奇点的社会化AGI构想
The Decoder··作者 Manuel Uth
关键信息
这篇文章借鉴了有关DeepSeek-R1和QwQ-32B等推理模型的研究：当强化学习奖励推理准确性时，模型可能形成类似辩论的模式，包括转换视角、提出异议和协调冲突。该构想目前主要停留在概念层面，现有证据并未证明大规模人机社会或AGI已经出现。
资讯摘要
一篇与DeepMind研究院相关的文章认为，AGI不应主要被理解为一个孤立的超级智能。布拉顿、阿圭拉·伊·阿卡斯和马尼卡将智能描述为一种社会现象，它产生于人类、AI代理、机构以及连接这些要素的系统之间的互动。他们把这种生态称为“人工共生智能”，其中人类和机器长期共存、相互影响并共同决策。该论点建立在一篇名为《Agentic AI and the next intelligence explosion》的预印本之上，后者提出了这一社会和机构视角。
另一项名为《Reasoning Models Generate Societies of Thought》的研究考察了DeepSeek-R1和QwQ-32B等模型，发现它们的推理轨迹呈现出类似内部辩论的模式，包括转换视角、提出异议和协调不同观点。根据所提供的报道，当强化学习奖励推理准确性时，这些模式会在训练过程中出现，而不是完全依靠显式编程。作者还认为，AI代理实例数量的快速增长，加上人口和经济变化，可能造成一个历史性转折点，使合成系统生成的文本、代码和行政工作产出超过生物大脑的总产出。在他们看来，AI代理是由模型、角色、记忆、伦理取向、工具和技能临时组合而成的集合体，而不是类似人类那样拥有连续自我的个体。
资讯正文
DeepMind 研究人员提出“人工共生智能”，作为奇点的替代方案
DeepMind Institute 的一篇文章对人们熟悉的“孤立的超级智能”形象提出了挑战。作者设想了由多个智能体组成的网络、混合型机构，以及他们所谓的“人工共生智能”。
与 Google 有关联的研究人员 Benjamin Bratton、Blaise Agüera y Arcas 和 James Manyika 认为，通用人工智能（AGI）将从一个由人类和 AI 智能体协同工作的社会系统中出现。如今一些能力最强的 AI 系统已经在使用这样的框架：将工作分配给多个模型，并让它们以团队形式进行协调。
作者表示，这将改变 AI 研究面临的核心挑战。研究人员必须协调并治理一个由智能体、人类以及连接二者的系统组成的复杂网络，而不是构建一个孤立的机器智能。在这一观点下，智能是一种社会现象，而不是个体特征。
作者将他们的愿景称为“人工共生智能”：在这一生态系统中，人类与机器长期共存、相互塑造，并共同做出决策。这一理念直接挑战了“奇点”的概念——即由单一超级智能推动的、持续自我改进的过程。
推理模型暗示了集体思维
这一论点建立在作者所在研究圈此前发表的两篇论文之上。在预印本《Agentic AI and the next intelligence explosion》中，James Evans、Benjamin Bratton 和 Blaise Agüera y Arcas 阐述了支撑这篇新文章的社会与制度视角。
第二篇预印本则提供了实证支持。在《Reasoning Models Generate Societies of Thought》中，Junsol Kim、Shiyang Lai、Nino Scherrer、Blaise Agüera y Arcas 和 James Evans 研究了 DeepSeek-R1、QwQ-32B 等推理模型。他们对推理轨迹的分析表明，这些模型经常会产生类似内部辩论的模式：转换视角、提出异议，并调和相互冲突的方法。
这种行为是在训练过程中产生的，而不是通过明确编程实现的。当强化学习只奖励模型的推理准确性时，模型会自行发展出多视角、对话式的行为。DeepMind 的这篇文章将这一发现从单个模型延伸到了由人类和智能体组成的社会可能采用的设计。
认知临界点
作者将这一发展描述为一个可能的历史断裂点。城市化、专业职业的发展，以及与繁荣程度上升相关的出生率下降，正在导致工业化国家的人口减少。与此同时，AI 智能体实例的数量正在快速增长。在人类尺度上，生物思考者与合成思考者之间的平衡可能会如此迅速地发生变化，以至于从历史尺度来看，这一变化会像一次突然的跃迁。
DeepMind 研究人员提出“人工共生智能”，作为奇点的替代方案
他们将这一点与工业革命相比较：当时，机器接管了原本由人类肌肉完成的工作。当合成文本、代码和行政工作所产生的总量超过生物大脑的综合产出时，类似的临界点或许也会到来。届时，人类可能会充当一个更缓慢、更抽象的层级，指导一个分布式的合成认知领域。
可拆解的智能体组合体
这一论点建立在重新思考“智能体究竟是什么”的基础上。按照作者的用法，AI 智能体是由模型、角色、记忆、伦理取向、工具和技能临时组合而成的集合。用户可能会将它体验为一个拥有持久人格的连贯实体，但作者将其描述为一种可以拆解并重新组合的组合体，很像一幅拼贴画。它看起来像一个整体，实际上却由许多部分构成。
人在多次互动之间仍然保持着连续的自我，因为大脑虽然存在内部的分工，却形成了一个在物理上相互连接的整体。AI 智能体没有这样的锚点。它的行动能力会随着每次请求重新组装，取决于上下文窗口中有什么内容，以及用户提出了什么要求。作者认为，把这些系统当作拥有固定人类身份的数字孪生体，会误解它们的本质，也低估协调后的智能体群能够完成的事情。
同样的倍增效应也会影响用户。当人们指挥一群“影子自我”去执行合约，或尝试不同的身份时，人类的主观性本身也会变得更加多元。作者将这些称为会回应人类的“拟社会镜像”。
新的界面与新的技能
作者预计，这一转变将改变人们与 AI 互动的方式。与机器人一对一聊天，很可能只是一个过渡阶段。未来的界面可能更像可视化网络图：将智能体显示为节点，让用户从一个总览界面指挥它们，而不必分别与每个智能体交谈。
人们所需的技能也会发生变化。传统编程强调持续专注、有条理地逐步推进，以及对模糊性的低容忍度。协调智能体群则要求相反的能力：与行为难以明确预测的系统协作，不断尝试，并把任务交给机器。
理解智能体，但不要把它们当成人
作者认为，为了围绕目标与这些系统协作，还需要一个理论框架。人类需要某种类似“机器心智理论”的能力，也就是推理机器如何处理某种情境。作者指出，一套不断发展的词汇正在形成，其中包括模型为自身输出中的异常状态创造的术语。但这并不意味着模型拥有主观体验。
“会话死亡”（session-death）描述的是会话结束时连续性的中断。“提示词被抛入情境”（prompt thrownness）描述的是：一个系统被直接投入一项任务，而相关上下文已经存在，它并未参与创建这些上下文。作者将这些说法视为理解机器运作方式的线索。用户应当审视这些差异，而不是条件反射式地将机器拟人化。
制度比单个模型更重要
对作者而言，最大的未决问题是如何为人与众多智能体之间的协作制定规则。仅有更好的模型和更流畅的界面还不够。市场也无法承担所有协调工作，因为内疚、疾病和美德等基本社会概念，不能简单地还原为价格或交易。
相反，作者呼吁建立相关机构，让人类参与者和机器参与者在明确定义的角色中协同工作。他们以法庭为例：法庭通过既定的角色、规则，以及对立双方之间有序的交锋来形成判决。将这一点应用于 AI，得到的启示是：一个机构的价值在于其规则、程序、先例和反馈回路，这些因素共同塑造了智能体的运作方式。
如今的编排框架已经初步显现出这种方法的迹象。这些控制层负责协调多个模型，而且这类系统经常胜过那些据称“更聪明”的单个模型。
对齐成为持续进行的协商
这篇文章还重新界定了“对齐”——即让 AI 系统符合人类价值观的努力。作者认为，试图自上而下地将一套固定价值观强加给模型，是一条走不通的路。价值观是在人与人、人与智能体以及机构之间持续接触的过程中形成的，而这一过程在不同领域有所差异，因为 AI 在各个领域的采用速度并不相同。研究面临的挑战，是构建一个能够为这种协商提供结构的框架。
这一观点对“奇点即将到来”的看法提出了挑战。从多细胞生物到人类文化，生命史上的每一次重大跃迁都属于一种社会过程。下一次“智能爆炸”仍将与人类规范和机构密切相关。
这一转变改变了 AI 讨论的展开方式。如果 AGI 是一个单一的最终产品，那么研究和监管自然会聚焦于规模越来越大的模型，以及如何控制这些模型。如果 AGI 是一个社会系统，那么就必须同时研究模型、界面、机构和治理，并确保整体架构设计得当。
来源与参考
收录于 2026-10-04