自我改进 AI 的实用实验
WIRED AI··作者 Will Knight
关键信息
第一次实验使用了一台 Nvidia DGX，并让 Claude 调整一个小模型的参数和训练方案；这个模型最初输出大量重复废话，但随后逐渐变得更连贯。第二次实验则使用了大约 100 篇过往通讯条目来训练一个名为 Frontier_Paper_Curator 的模型，并结合合成数据生成、另一个评估模型以及强化学习进行训练。
资讯摘要
这篇《Wired》特写讲述了作者如何尝试把递归式自我改进用于一份通讯的实际生产工作。经过大约一周的实验之后，作者认为答案是明确的“可以”，而且这种做法还指向了一种不那么中心化的 AI 发展路径。作者先从一个简单实验开始：安装了 AutoResearch，这是一款由 Andrej Karpathy 设计的工具，能够帮助现成的大模型去构建并改进一个更小的模型。随后，作者让 Claude 执行“开启新实验”的指令，自己则提供算力、电力，以及让模型在没有常规权限检查的情况下运行所需的环境。接着，Claude 不断调整训练参数和训练方案，观察小模型输出的变化，并继续优化。这个小模型最初的补全结果非常糟糕，充满了重复和混乱的词句，但后续版本逐渐变得更连贯，也更少出现异常重复。
之后，作者把实验推进到更实用的方向：为通讯搭建一个能够寻找并总结有趣研究论文的模型。作者使用 Prime Intellect 的训练环境，整理了大约 100 篇以往通讯中的“Elsewhere on the frontier of AI”条目，并让 Claude 帮忙创建了名为 Frontier_Paper_Curator 的模型。训练过程中还加入了合成数据、另一个用于评估输出的模型，以及强化学习。Prime Intellect 的 CEO Vincent Weisser 表示，他们希望让这种递归自我改进的能力变得人人可用，而不只是少数前沿实验室的专利。文章最后提到，另一家名为 Adaption 的初创公司也在提供 AutoScientist 工具，并且正在与多家在 AI 训练上投入巨大的大型公司合作。
资讯正文
这都很好，但我还得做一份新闻通讯。我开始想，递归自我改进或许也能对我有用。能不能用 AI 来训练并持续改进一个模型，让它自动处理这份新闻通讯中的一些杂务？
经过大约一周的试验，答案似乎是响亮而令人惊讶的——当然可以。更重要的是，尝试自我改进模型展示了 AI 可能展开的一种不同愿景——一种不以少数几家控制整个行业的公司为中心的愿景。
我先从尝试一个简单的自我改进循环开始
为了先试试水，我尝试从零开始训练一个小型语言模型——我的意思是，我把所有繁重工作都甩给了 Claude。
我安装了 AutoResearch，它能帮助现成的 AI 模型构建并改进一个更小的模型。AutoResearch 由 Andrej Karpathy 构思，他是 AI 领域的明星研究员，曾帮助创立 OpenAI，领导 Tesla 的 AI 工作，最近又加入了 Anthropic。
我启动了 Claude，并给了它推荐的指令：“嗨，看看 program.md，咱们开始一个新实验吧！”在 Claude 处理那些棘手部分时，我提供了算力（Nvidia DGX，一台为 AI 实验设计的桌面“超级计算机”）、电力（连续几天高负荷运行），以及一种或许并不明智的意愿：为了让模型按自己的方式做事，允许它跳过所有常规的权限检查（放手让它干！）
我每隔几个小时就去查看一下 AutoResearch 项目，惊叹地看着 Claude 调整参数和训练方案，观察这些调整如何改变更小模型的输出，然后继续进一步优化它。
下面是那个较早版本的小型语言模型在我提示它补全短语“In the beginning …”时生成的内容：
“In the beginning of the beginning of the end of the end of the end end of end end end end end end end end beginning end end end end…”
不太聪明。但后来由 Claude 自主改进的模型，变得更连贯，也不那么容易陷入疯狂、无休止的重复。它当然还远不是 GPT-5，但它展示了一条通向持续改进的有前景路径。
我的探索继续推进，转向了更复杂——也更有用的东西
我已经在使用一个依赖 Claude 的智能体来帮我寻找值得关注的研究论文，所以我决定看看是否可以构建一些超越这一功能的东西。
我转而使用一家名为 Prime Intellect 的初创公司提供的工具，它利用 AI 针对特定任务训练定制模型。我收集了大约 100 条之前“Elsewhere on the frontier of AI”栏目中的内容——也就是我通讯中主文之后附上的那些研究片段和零碎材料。然后，我创建了一个 Prime Intellect 训练环境，请 Claude 帮我搭建自己的模型，我把它命名为 Frontier_Paper_Curator，用来发现并总结有趣的论文。
Claude 找到了更多论文，并生成了一批合成数据来辅助训练。随后，它又调用了另一个模型来评估 Frontier_Paper_Curator 的输出，而训练环境本身也通过强化学习进一步改进了这个模型。
Prime Intellect 的首席执行官 Vincent Weisser 告诉我，这家最近获得 1500 万美元融资的公司，目标是让递归自我改进人人可用，而不只是前沿实验室才能使用。他说，前沿实验室打造出的模型可能非常出色，但将这种 AI 训练方式民主化，或许也能产出同样强大的专用模型。
Weisser 说：“让每家公司都能接触到前沿训练基础设施，市场的集体创造力所释放出的能量，会远远超过少数几个实验室能做到的。我们不想要一种中央集权式、近乎神一样的智能，我们想要的是十亿种智能，它们进入所有那些孕育美好事物的细分领域。”
Prime Intellect 并不是唯一这样看待未来的公司。另一家初创公司 Adaption 提供一款名为 AutoScientist 的工具，用于自动化 AI 模型训练。首席执行官 Sara Hooker 说，Adaption 正在与几家大型公司合作，这些公司正在大量消耗 token，但内部又没有 AI 专家。
当 Anthropic 决定阻止其最新模型 Fable 5 的某些请求时，也暴露出过度依赖单一前沿模型的风险。而像 Palantir 的 Alex Karp 这样的高管则警告说，使用前沿实验室的模型也意味着把自己的数据和技术控制权交出去。
递归自我改进的最终目标，是让 AI 将新想法应用到模型中，并形成自己的洞见。我们其他人能用的工具要受限得多，但仍然令人印象深刻。只用了不到一天时间在 Prime Intellect 上“烹调”模型后，我就做出了一个相当不错的研究检索与摘要模型。下面是它为我生成的一条示例条目：
研究人员在 iFLYTEK 开发了 iFLYTEK-Embodied-Omni，这是一种统一的多模态 AI 模型，将视觉、语言和动作生成整合到一个框架中。与以往把视觉理解、未来状态预测和动作生成分开处理的具身智能体不同，他们的模型使用共享的多模态自注意力机制，使视觉-语言“高层大脑”和动作生成的“低层小脑”之间实现紧密协作，类似于大脑与小脑的协同。这种方法减少了级联流水线中常见的误差累积和接口瓶颈。通过在一个大规模、多样化的数据集上训练——包括由人和机器人标注的具身视频以及图文数据——并采用分阶段训练策略，他们展示了一种通用具身智能体，能够进行联合推理、预测和控制。这为构建更一体化、更多功能的机器人 AI 系统贡献了一种新的架构与训练范式。
作为第一次尝试，这表现不错。这个新模型仍然有点过于积极，会选中太多我会跳过的论文，而且它生成的摘要也略显泛泛。不过，这已经是一个很有希望的开端。希望总有一天我能用它把我从繁琐杂务的枷锁中解放出来。
这是 Will Knight 的 AI Lab 电子报的一期。你可以在这里阅读往期电子报。
来源与参考
收录于 2026-07-09