OpenAI 宣称 Jalapeño AI 芯片推理更快

The Verge AI··作者 Emma Roth

关键信息

OpenAI 表示,Jalapeño 在 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T 上,相比 Nvidia 的 GB200 或 GB300 系统,每瓦可完成 1.5 到 1.9 倍的 AI 工作量,同时端到端延迟降低了 1.7 到 3.6 倍。OpenAI 计划在今年年底前以“小规模”部署该芯片,并在 2027 年逐步扩大规模,但公司也表示不会用它完全替代现有芯片阵容,仍会继续依赖 Nvidia 等合作伙伴。

资讯摘要

OpenAI 表示,其 Jalapeño 芯片能够比竞争系统更高效地完成 AI 推理任务,并更快返回答案。公司在周二发布的博客中公开了这些说法,随后硬件副总裁 Richard Ho 在媒体简报会上进一步解释了相关结果。Ho 将这款芯片形容为兼顾“最好两方面”的方案,因为它同时实现了更低延迟和更高吞吐,而这两项指标通常很难同时优化。Jalapeño 是一种 ASIC,也就是应用特定集成电路,由 OpenAI 与 Broadcom 合作制造,专门用于 AI 推理而不是通用计算。推理指的是把已经训练好的模型用于生成回复或执行智能体任务的阶段。OpenAI 表示,它使用 InferenceX 对 Jalapeño 进行基准测试,并将结果与当时表现最好的 Nvidia GB200 和 GB300 超级芯片进行比较。

在 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T 上,OpenAI 称 Jalapeño 每瓦可完成 1.5 到 1.9 倍的 AI 工作量,端到端延迟则降低了 1.7 到 3.6 倍。公司认为,这些提升会带来更快的响应、更灵敏的智能体,以及在需求增长时更可靠的服务。OpenAI 计划在今年年底前以小规模部署 Jalapeño,并在 2027 年逐步扩大部署。尽管如此,Ho 也表示 OpenAI 并不打算让 Jalapeño 替代全部芯片阵容,仍会继续与 Nvidia 等合作伙伴合作。OpenAI 还表示,公司正在继续开发这款芯片的第二代和第三代版本。

OpenAI 宣称 Jalapeño AI 芯片推理更快

资讯正文

OpenAI在周二发布的一篇博客文章中表示,其新的AI芯片Jalapeño完成任务的效率更高,响应速度也比其他AI系统更快。OpenAI硬件副总裁Richard Ho在与记者的简报会上表示,Jalapeño以更低的延迟和更高的吞吐量提供了“两全其美”的效果,而AI系统通常“不得不在两者之间作出权衡”。

Jalapeño最初于6月首次推出,是与Broadcom合作制造的一款专用集成电路(ASIC)。它专为AI推理设计——也就是运行经过训练的AI模型来完成任务或部署智能体的过程。

[图片:这张图表衡量了Jalapeño的token间时间(TBT)——也就是传递响应所需的时间。 https://platform.theverge.com/wp-content/uploads/sites/2/2026/08/tbt-jalapeno.png?quality=90&strip=all]

为了衡量Jalapeño的性能,OpenAI使用了InferenceX,这是一个用于展示AI系统推理能力的基准测试平台。测试将Jalapeño的表现与当时记录的最佳结果进行了比较,而这些最佳结果来自Nvidia的GB200或GB300超级芯片。OpenAI表示,在GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T这三种模型上,Jalapeño相比对照系统每瓦可提供1.5到1.9倍的AI工作量,同时端到端延迟降低了1.7到3.6倍。Ho表示,这意味着该芯片可以为用户带来“更快的响应、更灵敏的智能体,以及随着需求增长而更可靠的访问”。

[图片:根据OpenAI的说法,Jalapeño在使用更少能量的同时可以完成更多工作。 https://platform.theverge.com/wp-content/uploads/sites/2/2026/08/jalapeno-throughput.png?quality=90&strip=all]

Ho补充说,OpenAI计划在今年年底前以“小批量”部署Jalapeño,但会在2027年开始“逐步扩大规模”。不过,该公司没有说明明年计划部署多少颗芯片。

尽管有这些性能提升,Ho表示OpenAI并不预计会用Jalapeño取代其全部芯片阵容,并称其整体算力策略包括诸如Nvidia在内的“非常优秀的合作伙伴”。OpenAI还将继续开发这款新芯片的第二代和第三代产品。

来源与参考

  1. 原始链接
  2. OpenAI says its Jalapeño chip can power faster AI responses than the competition

收录于 2026-08-26