能效 1.5–1.9 倍、延迟 1.7–3.6 倍OpenAI Jalapeño 首批跑分追平英伟达 GB300单芯片额定 700W2026 年 8 月 25 日OpenAI 在 Hot Chips 2026 大会上首次公开自研推理芯片 Jalapeño 的基准测试结果用 700W 单卡功耗对比英伟达 GB300 1400W 功耗在 GPT-OSS 120B、DeepSeek R1、Kimi K2.5 三个代表模型上匹配工作点峰值吞吐/W 高 1.5–1.9 倍端到端延迟低 1.7–3.6 倍。数字看起来像是又一次「挑战英伟达」的发布会但实际意义远不止于此。这是 AI 产业链第一次看到 OpenAI 把推理栈从「GPU 客户」变成「自研芯片 系统设计方」的完整跑分同期 OpenAI 仍在 8 月 17 日接受英伟达对俄亥俄数据中心 1050 亿美元的投资承诺。两件事放一起描绘出的不是「替代英伟达」而是 OpenAI 在保留英伟达供应的同时用自己的 ASIC 在特定工作负载上挤掉一部分 GPU 份额。把 Jalapeño 这次公开的全部技术细节摊开看一遍是理解接下来 12–18 个月 AI 算力市场走向的关键。一、先把芯片规格摆出来Jalapeño 是 OpenAI 与 Broadcom 联合研发、采用台积电 3nm 制程流片的首款自研推理芯片定位非常明确专门为 LLM 推理设计不可用于训练。这意味着 OpenAI 并没有打算用自研芯片替代训练侧的英伟达 GPU而是把推理这一段最有规模化压力的环节从 GPU 生态中拆出来。关键参数Jalapeño 规格设计含义制程TSMC 3nm与英伟达 Blackwell 同代单晶体管密度领先内存6 颗 HBM4总容量 216 GiB每封装 15.4 TB/s 带宽算力13.4 PFLOPSmxfp4单卡推理峰值算力额定功耗700W封装 TDP实测 ≤550W单机架配置128 颗 ASIC 27.5 TB HBM41.7 ExaFLOPS4bit完整 Pod2048 颗 ASICBroadcom Tomahawk6 Clos 网络27 EFLOP/s、432 TiB HBM4不可做训练仅推理训练仍走 GPU 集群开发周期约 9 个月2024 末架构 → 2025 RTL freeze → 末 tapeout → 2026 初部署相比传统芯片公司大幅压缩需要重点解释的是「216 GiB HBM4 15.4 TB/s 带宽」这个组合。LLM 推理的关键瓶颈不是计算而是把模型权重从显存搬到计算单元的速度——这就是为什么 HBM 带宽几乎决定了一切。Jalapeño 单封装带宽 15.4 TB/s 已经显著高于英伟达 H200 的 4.8 TB/s、H100 的 3.35 TB/s且总容量 216 GiB 足够装下一颗 200B 参数级别的稠密模型权重不需要任何张量并行切分。二、跑分怎么比的SemiAnalysis InferenceX 套件Jalapeño 的所有公开跑分都来自 SemiAnalysis 开发的 InferenceX 基准测试套件这是一套专门为推理工作负载设计的、能区分 prefilling 与 decoding 两个阶段能力的评测工具对比对象覆盖英伟达 GB200、GB300、AMD MI355X、谷歌 TPU v6 等所有主流竞品。测试覆盖三个不同规模、不同架构的代表性模型测试模型参数量级测试意义GPT-OSS 120B120B 稠密OpenAI 自家开源模型验证生态兼容性DeepSeek R1670B MoE验证大 MoE 模型在自研芯片上的推理表现Kimi K2.51T MoE验证超大规模模型场景下的稳定性三个模型在三个工作负载维度上呈现一致的领先优势维度Jalapeño vs. 英伟达 GB300混合 Token 峰值吞吐高 1.5× – 1.9×每用户峰值解码吞吐高 2.7× – 3.8×极限交互速度吞吐最高 104.3×端到端延迟低 1.7× – 3.6×极低延迟场景吞吐高 2.1× – 4.1×每加速器实用电力Jalapeño 1.18 kW vs. GB300 2.55 kWSemiAnalysis 的评价很直接「Jalapeño 击败了我们测试过的每一款英伟达、AMD 和谷歌芯片」。这不是营销话术而是按 package TDP 归一化后的 Pareto 前沿对比结果。三、能效领先的真正原因跑分结果这么好并不是因为 OpenAI 在某个单一硬件维度上做到极致而是做了几件事的组合优化第一把内存带宽拉到行业极限。6 颗 HBM4 配合 15.4 TB/s 带宽是单封装推理带宽的当前世界纪录。这意味着模型权重几乎可以常驻显存每一次推理不需要重复加载从内存搬运这条传统瓶颈被大幅削弱。第二把每核变成 thread block。Jalapeño 采用空间架构spatial architecture配合 OpenAI 自研的 Gluon 编译器框架把每颗 ASIC 内核当成 thread block 处理使 AI 生成的 attention kernel 和 MoE kernel 比手写版本快 1.5–1.8 倍。这是一个软件层面的代差优势。第三AI 模型本身参与了硬件设计。OpenAI 在开发过程中用自家 AI 模型 XLS 硬件描述语言一种基于 Python 的高级综合语言驱动 RTL 综合与 PPA性能/功耗/面积优化。在 BF16 乘法人基线上AI 辅助设计让 PPA 提升 56%矩阵单元面积下降 10%。这相当于 OpenAI 让 GPT 来帮忙设计下一颗芯片。第四专为推理剪裁不背训练包袱。训练芯片如英伟达 B200需要保留 BF16/FP32 高精度算力来跑反向传播而推理只需要 INT8/FP4 量化。Jalapeño 把晶体管预算全部投入到低精度推理单元单位晶体管的推理效率被推到了理论极限。四、与英伟达的真实关系把上面的跑分摆出来之后必须正视一个敏感问题OpenAI 是不是要替代英伟达答案比表面上要复杂得多。从两个事实出发事实一8 月 17 日Hot Chips 大会前一周英伟达宣布对 OpenAI 俄亥俄数据中心提供 1050 亿美元的投资承诺。这是 AI 行业史上单笔最大的算力投资协议之一英伟达用真金白银表态OpenAI 依然是其最重要的客户之一。事实二OpenAI 推理硬件负责人 Richard Ho 在 Hot Chips 现场公开表态「英伟达是很好的合作伙伴我们依然需要大量英伟达芯片。」这句话不是外交辞令而是技术事实——OpenAI 的训练集群、所有大模型预训练任务、所有强化学习阶段依然完全依赖英伟达 GPU。那 Jalapeño 的位置在哪答案是在「推理」这个特定工作负载上做替代。具体来说场景用什么芯片原因大模型预训练英伟达 GPUH100/B200需要 BF16/FP32 高精度算力需要 NVLink 全互联强化学习训练英伟达 GPU同上且依赖 CUDA 生态训练后推理服务高并发Jalapeño单 token 成本低、能耗低、可大规模部署API 长上下文推理Jalapeño1M 上下文受益于 HBM4 大容量边缘/低延迟场景第二代 Jalapeño路线图中明确写到的方向把这条边界画清楚后可以看到一个更准确的判断Jalapeño 不是用来替代英伟达 GPU 的而是用来分流「推理侧 CapEx」的。当一家公司的推理算力支出超过训练算力时自研 ASIC 的经济性会显著优于继续购买 GPU。OpenAI 显然已经到了这个拐点。五、路线图与产能爬坡Hot Chips 大会上同步公开了 Jalapeño 的三代路线图代次状态重点Gen 1Jalapeño 本代已交付2026 年底小规模部署验证商用可行性Gen 2即将流片在 Gen 1 基础上提升每瓦性能perf/WGen 3概念设计中聚焦低延迟经济型 serving 场景这里有一个不可忽视的供应链风险HBM4 内存供应紧张。三星、SK 海力士、美光的 HBM4 产能基本预售至 2027 年SK 海力士公开预警 2027 年供应最紧张可能限制 Jalapeño 的产能爬坡。换句话说就算 OpenAI 想大规模部署也得看 HBM4 产能的脸色。部署时间表也偏保守2026 年底先做「very small volumes」试运行2027 年才扩大规模。这与英伟达 Blackwell 系列在数据中心「量产爬坡—一年覆盖主要客户」的节奏形成对比。自研 ASIC 想要撼动 GPU 的存量市场至少还需要 18–24 个月。六、对算力市场格局的实际影响把上面所有信息合起来可以对接下来 12 个月的市场走向做一些具体推演玩家影响维度具体动作预判OpenAI推理侧 CapEx 压力释放2027 年起对 H100/B200 采购增速放缓英伟达单一大客户依赖度变化需要在其他超大客户Anthropic、Meta、Google补回份额AMDMI355X/MI400推理市场份额竞争在 OpenAI 之外争取更多 second-tier 客户谷歌TPU v6/v8自研 ASIC 模式验证内部工作负载进一步切到自研 TPU博通网络 ASIC 设计红利继续承接 OpenAI、Anthropic、Google 的 ASIC 设计订单台积电3nm 产能分配博弈HBM4 配套产能成为关键瓶颈Meta / 亚马逊自研 ASIC 决策窗口加快内部芯片研发节奏考虑 MTIA v3、Trainium3最值得关注的二级效应是OpenAI 把 Jalapeño 跑分公开等于向整个行业示范了「前沿模型公司应该自研推理 ASIC」的最佳实践。Anthropic 在 2026 年下半年大概率会加快与博通合作的自研芯片节奏Meta 的 MTIA、亚马逊的 Trainium、谷歌的 TPU 都会感受到更强的竞争压力——不只是和英伟达竞争还要和 OpenAI 这种「模型公司 芯片公司」的新物种竞争。七、对从业者的实操建议对不同角色Jalapeño 这件事的含义不同角色短期行动1–3 个月中期观察3–12 个月AI 应用开发者无直接变化OpenAI API 表面保持兼容关注 Jalapeño 部署后 API 单价是否进一步下调数据中心运营方评估 HBM4 供应是否会被大客户锁定跟踪 ASIC 散热与机房改造要求芯片设计公司把 OpenAI 的「AI 设计芯片」方法学纳入自研路线评估与博通合作做 ASIC 设计的可行性投资机构重新审视英伟达估值锚点——「唯一供给方」溢价是否被削关注博通、台积电、SK 海力士的相对收益企业 IT 采购方短期内采购策略不变GPU 仍是训练主流关注第二代 Jalapeño 发布后推理侧采购预算的重构机会最关键的一条建议不要把这次的 1.5–1.9 倍能效比、1.7–3.6 倍延迟优势简单理解为「英伟达要输了」。这是 OpenAI 在一个特定工作负载上的优化结果不是通用计算领域的代际更替。训练侧、生态成熟度、CUDA 软件护城河这些英伟达的真正壁垒至少还要 3–5 年才能被打破。八、写在最后把这次 Hot Chips 公开的所有信息压缩成一句话就是OpenAI 在保留英伟达作为最重要合作伙伴的同时用一颗 700W、自研、HBM4 满配的推理 ASIC在主流大模型的推理工作负载上跑出了对 GB300 的 1.5–1.9 倍能效优势。这件事的产业意义远大于技术意义。它标志着前沿 AI 公司的角色正在分裂一部分继续做「模型公司」Anthropic、xAI、DeepSeek另一部分正在演化成「模型 算力 系统」的全栈玩家OpenAI、Google、Meta、亚马逊。后者的估值模型、竞争壁垒、地缘风险敞口都与前者完全不同。2027 年是 Jalapeño 大规模部署的关键节点。如果届时能跑出承诺中的 27 EFLOP/s Pod 规模AI 算力市场的版图将迎来一次真正的重绘。在那之前GPU 还是 GPU自研 ASIC 还在证明自己的路上。
能效 1.5–1.9 倍、延迟 1.7–3.6 倍：OpenAI Jalapeño 首批跑分追平英伟达 GB300，单芯片额定 700W
能效 1.5–1.9 倍、延迟 1.7–3.6 倍OpenAI Jalapeño 首批跑分追平英伟达 GB300单芯片额定 700W2026 年 8 月 25 日OpenAI 在 Hot Chips 2026 大会上首次公开自研推理芯片 Jalapeño 的基准测试结果用 700W 单卡功耗对比英伟达 GB300 1400W 功耗在 GPT-OSS 120B、DeepSeek R1、Kimi K2.5 三个代表模型上匹配工作点峰值吞吐/W 高 1.5–1.9 倍端到端延迟低 1.7–3.6 倍。数字看起来像是又一次「挑战英伟达」的发布会但实际意义远不止于此。这是 AI 产业链第一次看到 OpenAI 把推理栈从「GPU 客户」变成「自研芯片 系统设计方」的完整跑分同期 OpenAI 仍在 8 月 17 日接受英伟达对俄亥俄数据中心 1050 亿美元的投资承诺。两件事放一起描绘出的不是「替代英伟达」而是 OpenAI 在保留英伟达供应的同时用自己的 ASIC 在特定工作负载上挤掉一部分 GPU 份额。把 Jalapeño 这次公开的全部技术细节摊开看一遍是理解接下来 12–18 个月 AI 算力市场走向的关键。一、先把芯片规格摆出来Jalapeño 是 OpenAI 与 Broadcom 联合研发、采用台积电 3nm 制程流片的首款自研推理芯片定位非常明确专门为 LLM 推理设计不可用于训练。这意味着 OpenAI 并没有打算用自研芯片替代训练侧的英伟达 GPU而是把推理这一段最有规模化压力的环节从 GPU 生态中拆出来。关键参数Jalapeño 规格设计含义制程TSMC 3nm与英伟达 Blackwell 同代单晶体管密度领先内存6 颗 HBM4总容量 216 GiB每封装 15.4 TB/s 带宽算力13.4 PFLOPSmxfp4单卡推理峰值算力额定功耗700W封装 TDP实测 ≤550W单机架配置128 颗 ASIC 27.5 TB HBM41.7 ExaFLOPS4bit完整 Pod2048 颗 ASICBroadcom Tomahawk6 Clos 网络27 EFLOP/s、432 TiB HBM4不可做训练仅推理训练仍走 GPU 集群开发周期约 9 个月2024 末架构 → 2025 RTL freeze → 末 tapeout → 2026 初部署相比传统芯片公司大幅压缩需要重点解释的是「216 GiB HBM4 15.4 TB/s 带宽」这个组合。LLM 推理的关键瓶颈不是计算而是把模型权重从显存搬到计算单元的速度——这就是为什么 HBM 带宽几乎决定了一切。Jalapeño 单封装带宽 15.4 TB/s 已经显著高于英伟达 H200 的 4.8 TB/s、H100 的 3.35 TB/s且总容量 216 GiB 足够装下一颗 200B 参数级别的稠密模型权重不需要任何张量并行切分。二、跑分怎么比的SemiAnalysis InferenceX 套件Jalapeño 的所有公开跑分都来自 SemiAnalysis 开发的 InferenceX 基准测试套件这是一套专门为推理工作负载设计的、能区分 prefilling 与 decoding 两个阶段能力的评测工具对比对象覆盖英伟达 GB200、GB300、AMD MI355X、谷歌 TPU v6 等所有主流竞品。测试覆盖三个不同规模、不同架构的代表性模型测试模型参数量级测试意义GPT-OSS 120B120B 稠密OpenAI 自家开源模型验证生态兼容性DeepSeek R1670B MoE验证大 MoE 模型在自研芯片上的推理表现Kimi K2.51T MoE验证超大规模模型场景下的稳定性三个模型在三个工作负载维度上呈现一致的领先优势维度Jalapeño vs. 英伟达 GB300混合 Token 峰值吞吐高 1.5× – 1.9×每用户峰值解码吞吐高 2.7× – 3.8×极限交互速度吞吐最高 104.3×端到端延迟低 1.7× – 3.6×极低延迟场景吞吐高 2.1× – 4.1×每加速器实用电力Jalapeño 1.18 kW vs. GB300 2.55 kWSemiAnalysis 的评价很直接「Jalapeño 击败了我们测试过的每一款英伟达、AMD 和谷歌芯片」。这不是营销话术而是按 package TDP 归一化后的 Pareto 前沿对比结果。三、能效领先的真正原因跑分结果这么好并不是因为 OpenAI 在某个单一硬件维度上做到极致而是做了几件事的组合优化第一把内存带宽拉到行业极限。6 颗 HBM4 配合 15.4 TB/s 带宽是单封装推理带宽的当前世界纪录。这意味着模型权重几乎可以常驻显存每一次推理不需要重复加载从内存搬运这条传统瓶颈被大幅削弱。第二把每核变成 thread block。Jalapeño 采用空间架构spatial architecture配合 OpenAI 自研的 Gluon 编译器框架把每颗 ASIC 内核当成 thread block 处理使 AI 生成的 attention kernel 和 MoE kernel 比手写版本快 1.5–1.8 倍。这是一个软件层面的代差优势。第三AI 模型本身参与了硬件设计。OpenAI 在开发过程中用自家 AI 模型 XLS 硬件描述语言一种基于 Python 的高级综合语言驱动 RTL 综合与 PPA性能/功耗/面积优化。在 BF16 乘法人基线上AI 辅助设计让 PPA 提升 56%矩阵单元面积下降 10%。这相当于 OpenAI 让 GPT 来帮忙设计下一颗芯片。第四专为推理剪裁不背训练包袱。训练芯片如英伟达 B200需要保留 BF16/FP32 高精度算力来跑反向传播而推理只需要 INT8/FP4 量化。Jalapeño 把晶体管预算全部投入到低精度推理单元单位晶体管的推理效率被推到了理论极限。四、与英伟达的真实关系把上面的跑分摆出来之后必须正视一个敏感问题OpenAI 是不是要替代英伟达答案比表面上要复杂得多。从两个事实出发事实一8 月 17 日Hot Chips 大会前一周英伟达宣布对 OpenAI 俄亥俄数据中心提供 1050 亿美元的投资承诺。这是 AI 行业史上单笔最大的算力投资协议之一英伟达用真金白银表态OpenAI 依然是其最重要的客户之一。事实二OpenAI 推理硬件负责人 Richard Ho 在 Hot Chips 现场公开表态「英伟达是很好的合作伙伴我们依然需要大量英伟达芯片。」这句话不是外交辞令而是技术事实——OpenAI 的训练集群、所有大模型预训练任务、所有强化学习阶段依然完全依赖英伟达 GPU。那 Jalapeño 的位置在哪答案是在「推理」这个特定工作负载上做替代。具体来说场景用什么芯片原因大模型预训练英伟达 GPUH100/B200需要 BF16/FP32 高精度算力需要 NVLink 全互联强化学习训练英伟达 GPU同上且依赖 CUDA 生态训练后推理服务高并发Jalapeño单 token 成本低、能耗低、可大规模部署API 长上下文推理Jalapeño1M 上下文受益于 HBM4 大容量边缘/低延迟场景第二代 Jalapeño路线图中明确写到的方向把这条边界画清楚后可以看到一个更准确的判断Jalapeño 不是用来替代英伟达 GPU 的而是用来分流「推理侧 CapEx」的。当一家公司的推理算力支出超过训练算力时自研 ASIC 的经济性会显著优于继续购买 GPU。OpenAI 显然已经到了这个拐点。五、路线图与产能爬坡Hot Chips 大会上同步公开了 Jalapeño 的三代路线图代次状态重点Gen 1Jalapeño 本代已交付2026 年底小规模部署验证商用可行性Gen 2即将流片在 Gen 1 基础上提升每瓦性能perf/WGen 3概念设计中聚焦低延迟经济型 serving 场景这里有一个不可忽视的供应链风险HBM4 内存供应紧张。三星、SK 海力士、美光的 HBM4 产能基本预售至 2027 年SK 海力士公开预警 2027 年供应最紧张可能限制 Jalapeño 的产能爬坡。换句话说就算 OpenAI 想大规模部署也得看 HBM4 产能的脸色。部署时间表也偏保守2026 年底先做「very small volumes」试运行2027 年才扩大规模。这与英伟达 Blackwell 系列在数据中心「量产爬坡—一年覆盖主要客户」的节奏形成对比。自研 ASIC 想要撼动 GPU 的存量市场至少还需要 18–24 个月。六、对算力市场格局的实际影响把上面所有信息合起来可以对接下来 12 个月的市场走向做一些具体推演玩家影响维度具体动作预判OpenAI推理侧 CapEx 压力释放2027 年起对 H100/B200 采购增速放缓英伟达单一大客户依赖度变化需要在其他超大客户Anthropic、Meta、Google补回份额AMDMI355X/MI400推理市场份额竞争在 OpenAI 之外争取更多 second-tier 客户谷歌TPU v6/v8自研 ASIC 模式验证内部工作负载进一步切到自研 TPU博通网络 ASIC 设计红利继续承接 OpenAI、Anthropic、Google 的 ASIC 设计订单台积电3nm 产能分配博弈HBM4 配套产能成为关键瓶颈Meta / 亚马逊自研 ASIC 决策窗口加快内部芯片研发节奏考虑 MTIA v3、Trainium3最值得关注的二级效应是OpenAI 把 Jalapeño 跑分公开等于向整个行业示范了「前沿模型公司应该自研推理 ASIC」的最佳实践。Anthropic 在 2026 年下半年大概率会加快与博通合作的自研芯片节奏Meta 的 MTIA、亚马逊的 Trainium、谷歌的 TPU 都会感受到更强的竞争压力——不只是和英伟达竞争还要和 OpenAI 这种「模型公司 芯片公司」的新物种竞争。七、对从业者的实操建议对不同角色Jalapeño 这件事的含义不同角色短期行动1–3 个月中期观察3–12 个月AI 应用开发者无直接变化OpenAI API 表面保持兼容关注 Jalapeño 部署后 API 单价是否进一步下调数据中心运营方评估 HBM4 供应是否会被大客户锁定跟踪 ASIC 散热与机房改造要求芯片设计公司把 OpenAI 的「AI 设计芯片」方法学纳入自研路线评估与博通合作做 ASIC 设计的可行性投资机构重新审视英伟达估值锚点——「唯一供给方」溢价是否被削关注博通、台积电、SK 海力士的相对收益企业 IT 采购方短期内采购策略不变GPU 仍是训练主流关注第二代 Jalapeño 发布后推理侧采购预算的重构机会最关键的一条建议不要把这次的 1.5–1.9 倍能效比、1.7–3.6 倍延迟优势简单理解为「英伟达要输了」。这是 OpenAI 在一个特定工作负载上的优化结果不是通用计算领域的代际更替。训练侧、生态成熟度、CUDA 软件护城河这些英伟达的真正壁垒至少还要 3–5 年才能被打破。八、写在最后把这次 Hot Chips 公开的所有信息压缩成一句话就是OpenAI 在保留英伟达作为最重要合作伙伴的同时用一颗 700W、自研、HBM4 满配的推理 ASIC在主流大模型的推理工作负载上跑出了对 GB300 的 1.5–1.9 倍能效优势。这件事的产业意义远大于技术意义。它标志着前沿 AI 公司的角色正在分裂一部分继续做「模型公司」Anthropic、xAI、DeepSeek另一部分正在演化成「模型 算力 系统」的全栈玩家OpenAI、Google、Meta、亚马逊。后者的估值模型、竞争壁垒、地缘风险敞口都与前者完全不同。2027 年是 Jalapeño 大规模部署的关键节点。如果届时能跑出承诺中的 27 EFLOP/s Pod 规模AI 算力市场的版图将迎来一次真正的重绘。在那之前GPU 还是 GPU自研 ASIC 还在证明自己的路上。