General Compute 4亿美元押注推理芯片

TechCrunch AI··作者 Tim Fernholz

关键信息

General Compute 由首席执行官 Finn Puklowski 和首席技术官 Jason Goodison 创办,并在 5 月完成了 1500 万美元种子轮融资,计划围绕 SambaNova 的 SN50 芯片建设推理型 neocloud。 公司称这些芯片更省电,不需要昂贵的水冷系统,因此可以比 GPU 云更快部署,并且推理速度可提升到 GPU 云的 16 倍。

资讯摘要

General Compute 从科技投资机构 Upper90 获得了一笔 4 亿美元贷款,这笔融资结构可能首次把专门用于推理的芯片作为抵押品。 与用于训练 AI 模型的昂贵芯片不同,推理芯片的目标是快速、高效地运行已经训练好的模型。

这笔交易出现在市场越来越关注 AI 使用成本的时候,尤其是 token 价格以及开源模型的服务经济性。 General Compute 正在围绕 SambaNova 的 SN50 芯片建设一个推理型 neocloud,并且公司在 5 月刚刚完成了 1500 万美元种子轮融资。

neocloud 是专门为 AI 工作负载打造的基础设施,而不是像 AWS 或 Azure 这类通用型超大规模云服务。 General Compute 表示,SN50 芯片更省电,不需要水冷系统,而且可以比 GPU 更快地部署到更多类型的数据中心。

公司还称,这些芯片的推理速度可达到 GPU 云的 16 倍。 随着 AI 部署成本变得越来越重要,围绕推理硬件的价值也在被重新评估。

Upper90 联合创始人兼首席执行官 Billy Libby 表示,他的公司在 2021 年曾为 Crusoe 的 GPU 采购提供融资,他认为那可能是最早一批以先进芯片价值为基础的贷款之一。 当时传统贷款机构对这类交易非常谨慎,因为 GPU 折旧和价值波动的不确定性很高,但后来随着 CoreWeave 把芯片抵押贷款做成业务模式并最终走向 IPO,这类融资逐渐变得常见。

Libby 说,Upper90 现在正在寻找 AI 基础设施的下一波机会,尤其是推理和开源模型方向。 他的判断是,并不是每个客户都需要超级计算机,但很多客户都需要便宜而稳定的 AI 推理能力。

这篇报道也反映出市场对 Nvidia 依赖度下降的趋势。 General Compute 使用的是 SambaNova 芯片,处在 Nvidia 生态之外,而文中还提到 TensorWave 正在通过 AMD 采取类似策略。 General Compute 的 Puklowski 认为,这笔贷款不仅是初创公司获得资金购买算力,更像是资本开始围绕一个更碎片化、后 Nvidia 时代的算力市场重新组织的信号。

General Compute 4亿美元押注推理芯片

资讯正文

General Compute 是一家 AI 推理云初创公司,已从科技投资公司 Upper90 获得 4 亿美元贷款。这笔交易可能是首个将专用于推理的芯片作为抵押品的融资——这类芯片用于快速高效地运行已经训练好的 AI 模型,而不是像最初用于训练模型的那些更昂贵芯片。

这笔融资是最新信号,表明市场正因 AI 工具和 tokens 的价格问题而转向基础设施,以更低成本运行开源模型,而不是使用前沿实验室推出的最新 LLM。

General Compute 由 CEO Finn Puklowski 和 CTO Jason Goodison 创立,今年 5 月刚刚完成 1500 万美元种子轮融资,计划围绕由 Intel 支持的芯片制造商 SambaNova 的硅片打造一个推理 neocloud。(Neocloud 是为 AI 工作负载量身打造的基础设施,不同于 AWS 或 Azure 等传统 hyperscaler 提供的通用型基础设施。)

该公司的 SN50 芯片专为推理设计。它们能效更高,而且不需要昂贵的水冷系统,这意味着与 GPU 相比,它们可以更快部署到更多类型的数据中心。General Compute 表示,这些新芯片将提供比基于 GPU 的云快 16 倍的推理速度。

难点在于,要弄到很多这样的芯片,尤其是当你还是一家全新的公司时。

Upper90 联合创始人兼 CEO Billy Libby 曾是高盛的量化交易员,他为此准备了一套打法:2021 年,他的公司为 Crusoe——一家专注能源的数据中心初创公司——购买 GPU 提供融资,他认为那是首笔以先进芯片价值作抵押的贷款。

当时,传统放贷机构回避这类交易,因为 GPU 折旧带来的风险和不确定性太高。但随着 CoreWeave 把以芯片抵押贷款做成了商业模式,并进一步成为一场轰动性 IPO 的基础,这类融资如今已变得相当常见。

Libby 告诉 TechCrunch:“当我们作为第一批这样做、为 Nvidia GPU 提供融资时,市场是低效的。我们确实能作为早期参与者把事情做起来,并在某种程度上因承担风险而获得补偿。”

如今,GPU 已经相对被市场理解,甚至可能被过度买入,Upper90 正转向像 General Compute 这样的公司,以搭上 AI 热潮的下一波浪潮。Libby 说:“我们认为开源模型会很重要,所以去年我们去寻找一家专注推理的公司。并不是每个人都需要超级计算机,但他们确实需要推理和 AI。”

这一判断正变得越来越强,因为提供开放模型访问的公司,如 OpenRouter 和 Fireworks,正在以高得惊人的估值进行新一轮融资。像 Kimi 的 K3 这样的新模型,已经证明在编码基准上可以与 Anthropic 和 OpenAI 的最新版本竞争。而 Groq、Cerebras 等新的芯片制造商,也同时吸引了收购方和公开市场的兴趣。

General Compute 能够接入 Nvidia 生态系统之外的芯片,这一点出于同样的原因也很重要。另一家 AI 基础设施公司 TensorWave 也在与 AMD 的合作上押下了类似的赌注。随着更多 Nvidia 的替代方案不断涌现,那些没有被 Nvidia 合同绑定住的算力提供商,或许在提供高性价比推理服务方面会占据优势。

“有一批芯片正在开始规模化,它们拥有惊人的[总拥有成本],或者运行速度远快于 Nvidia,但真正愿意买单的客户并不多,”Puklowski 说。“通过与 Upper90 联手,这不只是‘一家很酷的初创公司拿到了一些钱去买算力’。更准确地说,这发出了一个信号:资本正在自我组织,而 Nvidia 的垄断性主导地位正在碎片化。”

来源与参考

  1. 原始链接
  2. Why the first GPU financiers are turning to inference chips in a $400 million deal | TechCrunch

收录于 2026-07-18