英伟达的护城河正超越GPU
TechCrunch AI··作者 Russell Brandom
关键信息
文章指出，英伟达的 Vera CPU 主要负责数据编排，避免 GPU 因内存和闪存存储受限而被拖慢，英伟达称某些操作最高可提升 3 倍。文章还将其与 OpenAI 的 Jalapeño 芯片进行对比，后者试图通过把工作负载限制在一个连通系统内来尽量减少数据移动，而不是依赖流量编排。
资讯摘要
文章首先回顾了英伟达过去几年的主线叙事：在 AI 热潮初期，它几乎是最先进 GPU 的唯一来源，因此赚得盆满钵满。随着亚马逊、谷歌等超大规模云厂商开始自研芯片，英伟达不再是“唯一选择”，投资者也开始怀疑它的优势是否足够持久。尽管从 2023 年初到 2025 年中，英伟达市值曾增长约 10 倍，但过去一年股价走势明显更温和，部分原因就是市场对 GPU 竞争的担忧。文章提出的新观点是，英伟达的优势其实早已超出 GPU 本身，而延伸到了支撑超大规模 AI 运行的系统层。随着 AI 算力规模迈向吉瓦级数据中心，如何高效编排这些系统变得越来越难。
文中提到，英伟达正在推出 Vera Rubin 架构，把 Rubin GPU 与 Vera CPU 以及存储、网络等其他组件组合在一起。英伟达高管表示，Vera CPU 的作用是协调数据流动，避免内存和闪存成为瓶颈，公司称在某些操作上已经实现最高 3 倍的提升。文章还对比了 OpenAI 的 Jalapeño 芯片，后者通过尽量减少数据移动来提升效率，但思路与英伟达不同。作者最终强调，AI 基础设施的竞争重心正在从单纯的算力芯片，转向编排、系统设计和数据流控制。
资讯正文
在本周之前，外界关于 Nvidia 的主流叙事大致是这样的：在 AI 热潮的最初几年里，Nvidia 是顶级 GPU 的唯一来源；随着整个行业规模不断扩大，这些 GPU 变得极其赚钱。过去几年里，Amazon 和 Google 这样的超大规模云厂商开始自研芯片，Nvidia 不再是市场上唯一的选择，许多投资者因此开始怀疑，它的优势到底还能持续多久。
这个故事很有说服力，而且大体属实。在 2023 年初到 2025 年年中之间，Nvidia 的市值增长了 10 倍之后，过去一年里其股价走势变得更为温和，原因是市场对 GPU 竞争的担忧。
自从公司周三公布财报以来，一种新的叙事正在形成，投资者也开始意识到，Nvidia 的优势远不止于 GPU。随着 AI 算力规模扩展到吉瓦级，调度编排已经成为一项日益复杂的任务。毫不意外，Nvidia 已经打造出其中很大一部分所需的顶级硬件，这让公司在围绕 GPU 的整套系统中拥有巨大优势，尽管 GPU 本身面临的竞争正在加剧。
尽管人们总说算力已经变成一种大宗商品，但要把一个超大规模数据中心以峰值效率运行起来，仍然极其困难——而且随着部署规模越来越大、速度越来越快，这一挑战只会愈发严峻。
逐个机架来看
只要看看 Nvidia 实际在卖什么的一些细节，就能看出其中一部分。该公司目前正在推出 Vera Rubin 架构，它将 Rubin GPU 与一系列其他单元组合在一起，包括 Vera CPU、Groq 3 LPX 推理加速器，以及用于存储和网络的类似机架。
过去一周，我一直在和 Nvidia 的一些人讨论这些系统究竟在做什么，结果令人惊讶。和 Rubin GPU 本身一样，它们都是高度专业化的系统，但它们不是在处理 token，而是在确保 GPU 之外的一切都尽可能高效地运行。如果说 GPU 是发动机，那么这些就是汽车的其余部分。
尤其是 Vera CPU，重点在于解决数据编排的问题。“Vera 很重要，因为单个服务器或任何一种计算平台里能放的内存数量都是有限的，”Nvidia 存储技术副总裁 Jason Hardy 告诉我。
随着数据中心算力规模扩大，内存容量也在同步增长，这也是 Micron 之类的公司在这一轮基础设施热潮中赚得盆满钵满的原因。但要在合适的时间把数据送到 GPU 上并不容易——而当企业试图把每瓦 token 产出压得越来越低时，他们也愈发意识到这种流量调度有多重要。
Hardy 说：“在这些操作上，我们看到了高达 3 倍的提升，Vera CPU 让加速成为可能。所以现在我们能把闪存的潜力发挥到极致，因为我们可以在不造成瓶颈的情况下，把它的全部性能释放出来。”
你也能在英伟达之外看到同样的问题。OpenAI 在开发其 Jalapeño 芯片时，一个主要重点就是尽量避免这些挑战，尽可能减少需要在各处传输的数据量。
该公司在本月早些时候的一篇博客文章中表示：“我们设计 Jalapeño 的目标是尽量减少数据移动和通信延迟。” “它的大域让整个工作负载都能保留在一个互连系统内，最大限度减少数据移动，并帮助完整请求从头到尾都保持快速高效。”
这是一种不同的做法：通过在一颗集成芯片内完成工作负载，彻底避免数据移动。但整体逻辑是相同的，都是通过更聪明的流量控制而不仅仅是更多处理器周期来提高效率。而这反过来又为企业竞争打开了一个全新的基础设施层面。
这种对数据编排的全新关注，并不会自动成为英伟达的胜利。该公司将不得不与竞争对手芯片制造商和超大规模云厂商竞争，就像它过去在 GPU 领域所面对的那样。但竞争已经转移到了新的层面，在这里，打造一款可替代的 GPU 重要性，不如让整个系统高效运转的能力来得关键。
而至少在早期阶段，英伟达似乎已经占据了压倒性领先优势。
来源与参考
收录于 2026-08-30