OpenAI或于今年发布模型，但旗舰产品面临对齐延迟
The Decoder··作者 Matthias Bastian
关键信息
据报道，这款旗舰模型采用内部称为“Recurrent Depth”的循环式Transformer，通过重复使用相同层来提升数学和编程表现。该技术可能把部分推理转移到人类难以检查的隐藏数值表示中，使思维链监控更不可靠；在Hugging Face事件后，OpenAI据称将约10%的计算资源转向对齐和安全工作。
资讯摘要
据报道，OpenAI正在努力完成一款采用循环式Transformer技术的新旗舰模型，该技术与Astra使用的技术相同。OpenAI员工向The Information表示，公司可能会在今年年底前发布一到两个模型，但尚不清楚这款重大升级模型是否会包含在其中。报道称，这款旗舰模型仍需要进行对齐工作，以确保其目标符合OpenAI研究人员和客户的预期。公司还必须完善模型周围的测试基础设施，之后才能继续推进。
内部安全评估获得认可后，发布时间还可能受到额外限制，因为OpenAI已同意在新模型交给外部合作伙伴前最多提前30天向美国政府提供访问权限，并在公开发布前等待更长时间。循环式Transformer会让信息多次经过相同的Transformer层，从而提升数学和编程能力，并让较小模型以更低成本实现更强表现。但部分推理会发生在难以读取的隐藏数值表示中，使思维链监控更加困难。微软一段后来删除的说明据称透露，GPT-6.1 Sol使用多次推理过程，此后OpenAI一直将这项技术的细节视为敏感信息。
资讯正文
据报道，OpenAI 将于今年至少发布一个模型，但其旗舰模型仍需进行对齐工作
OpenAI 正在加速完成其下一代旗舰模型。该模型采用与 Astra 相同的循环 Transformer 技术。这种方法能提升数学和编程性能，但也让安全监控变得更加困难。员工表示，今年年底前可能会发布一到两个新模型。
据员工透露，OpenAI 可能会在今年年底前发布“一到两个新模型”，但目前尚不清楚公司正在开发的“重大升级模型”是否会包含在其中。The Information 援引了解这些项目的知情人士报道称，情况正是如此。
新的旗舰模型距离发布可能仍有一段时间。该模型需要进行对齐工作，使其目标符合 OpenAI 研究人员和客户的预期。在推进项目之前，公司还必须完善围绕该模型的测试基础设施。
在管理层对安全评估结果感到满意后，还会面临另一道门槛。根据美国总统 Trump 发布的、有关先进 AI 系统评估的行政命令，OpenAI 同意在新模型交给外部合作伙伴前最多 30 天向美国政府提供访问权限，而在公开发布前则要提前更长时间提供访问权限。
循环 Transformer 同时驱动 Astra 和下一代旗舰模型
一位知情人士称，新的旗舰模型同样采用循环 Transformer。OpenAI 已经在生产环境中运行这项技术，并将其称为“Recurrent Depth”。它是公司当前顶级模型 Astra 运作方式的核心。模型不会只让一个 token 经过一次 Transformer 层，而是会让它多次循环经过同一组层，然后才输出下一个词。这样做可以提升数学和编程性能并降低成本，因为规模更小的模型也能发挥超出其体量的能力。
但循环处理也会将模型的一部分“思考”从可读文本转移到人类审查员无法检查的内部数值表示中。这削弱了思维链监控的效果；在思维链监控中，安全研究人员会追踪模型的推理过程，以发现不当行为。据 The Information 报道，OpenAI 有意限制 Astra 的循环次数，以保持其思维链的可读性。
一位了解相关数据的人士称，在 Hugging Face 事件之后，OpenAI 将其总算力中约 10% 转向对齐和安全工作。The Information 报道称，这相当于数百兆瓦的数据中心容量，但目前尚不清楚在此之前有多少算力被分配给安全工作，也不清楚当前的分配比例。在市场价格下，OpenAI 转移的这部分算力每年租用成本将达数十亿美元。AI 研究员 Noam Brown 在 9 月中旬的一档播客中表示，他的团队也有约 10% 的成员从事安全与防护工作。
Microsoft 意外泄露 OpenAI 的循环推理工作原理
OpenAI 实际上如何使用这项技术，是通过 Microsoft 的一次疏漏曝光的。这家能够访问 OpenAI 知识产权的重要投资者，发布了一篇关于 GPT-6.1 Sol 的技术文章。GPT-6.1 Sol 是 OpenAI 本月早些时候推出的、成本更低的 Astra 替代方案。
在一段现已删除的内容中，Microsoft 将 GPT-6.1 Sol 描述为采用“循环推理”，即模型在给出答案前，以多个“轮次”处理同一个问题。The Information 援引该页面的缓存副本称，GPT-6.1 Sol“使用与 GPT-6 Sol 相同的基础模型权重，但推理轮次为两轮而非三轮”。
一名直接知情人士证实，这篇说明与 OpenAI 私下告知 Microsoft 的内容一致。Microsoft 意识到该部分原本不应公开后，将其撤下。据 The Information 报道，循环变换器仍是 OpenAI 模型开发中的敏感部分，无论是在训练阶段还是推理阶段都是如此。
OpenAI 首席科学家 Jakub Pachocki 已承认，思维链监控正变得“脆弱”，并且“不幸地朝着负面方向发展”。他还警告，不要让整个行业陷入一场竞赛，争相开发不具备可读推理过程的模型。
来源与参考
收录于 2026-10-15