EP138｜OpenAI自研芯片首测曝光｜3.2倍碾压英伟达 推理成本直降60%
205亿美元市场迎来新变量
据市场研究机构Research and Markets发布的《2026年全球人工智能推理芯片市场报告》，全球AI推理芯片市场规模预计将从2025年的177.3亿美元增长至2026年的205.1亿美元，年复合增长率为15.6%。就在这个高速扩张的赛道上，8月26日，OpenAI在Hot Chips大会上公布了首款自研推理芯片Jalapeño的首批基准测试结果。
“我们造了一颗芯片，它速度很快。”OpenAI首席执行官山姆·奥特曼在社交媒体上如此形容。这颗以“墨西哥辣椒”命名的芯片，由OpenAI与博通联合开发、台积电采用3nm制程代工制造，从架构设计到完成流片仅耗时约9个月。
每瓦性能的倍数级跃升
Jalapeño的测试数据指向一个核心结论：在相同功耗下，它能完成更多AI推理工作。OpenAI使用半导体研究公司SemiAnalysis开发的公共基准测试工具InferenceX，在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款模型上完成了测试。结果显示，对比英伟达GB200和GB300系统，Jalapeño每瓦AI吞吐量达到对照系统的1.5至1.9倍，端到端延迟仅为对照系统的28%至59%。
分模型来看：运行GPT-OSS 120B时，每千瓦峰值吞吐量较GB200高出约1.9倍；DeepSeek R1上，每瓦性能达到GB300的1.7倍；Kimi K2.5上则为1.5倍。在超低延迟工作负载下，Jalapeño的性能表现达到对照系统的2.1至4.1倍。OpenAI芯片部门负责人Richard Ho在会议现场表示，这颗芯片“既适合大规模服务客户，也能做到极低延迟”。
能效优势的另一面是功耗控制。Jalapeño额定功耗为700瓦，但在测试负载下持续功耗保持在550瓦或以下。作为参照，英伟达GB300的功耗为1400瓦。单颗Jalapeño配备6组HBM4内存，总容量216GB，带宽达15.4TB/s。128颗芯片组成一个机架时，整体功耗为89.6kW，显著低于英伟达最新Vera Rubin GPU的机架功耗。
推理的“按需分配”逻辑
性能提升并非偶然。OpenAI在官方博客中解释了Jalapeño的设计思路：语言模型推理包含预处理和解码两个阶段，前者是计算密集型，后者更多受限于内存带宽。传统系统在某个阶段表现出色，却可能在等待数据时丧失优势。
Jalapeño的解法是将KV缓存等模型状态保持在本地，系统根据每个推理阶段激活对应的计算、内存和网络资源组合。这种“按需分配”的架构直接针对推理流程中最容易形成瓶颈的预填充和通信两个阶段。Richard Ho强调，测试覆盖了OpenAI内部及外部开发的模型，“这是一颗通用的、非常灵活的加速器”。
值得注意的是，Jalapeño是推理专用芯片，不承担模型训练任务。这意味着OpenAI在训练环节仍然高度依赖英伟达等供应商。“我们需要大量算力，”Richard Ho说，“Jalapeño、英伟达和AMD都是算力的一部分”。
全栈协同：从模型到芯片的闭环
Jalapeño更大的意义在于它标志着OpenAI“模型—芯片—数据中心”全栈自研战略的落地。OpenAI将Jalapeño定位为多代平台，第二代芯片已进入后期开发阶段，预计未来数月内完成流片；第三代芯片也已启动概念设计。
OpenAI自身的AI模型深度参与了芯片设计流程，帮助加速设计优化。这种软硬深度耦合的方式，是英伟达作为第三方硬件供应商难以复制的——它必须保持通用性，无法只为一家模型公司定制。博通在其中扮演了关键角色，作为全球最大的定制芯片供应商之一，提供了从架构设计到流片的完整能力。
OpenAI计划于2026年底小规模部署Jalapeño，2027年逐步扩大规模。2025年10月，OpenAI与博通签署了高达10GW的定制AI加速器部署协议，计划在2026年下半年至2029年间陆续完成部署。
算力账单驱动下的“造芯”浪潮
自研芯片的经济驱动力清晰可见。据公开信息，OpenAI 2026年第一季度经营支出达37亿美元，超过当期57亿美元营收的半数。公司联合创始人Greg Brockman在法庭作证时透露，2026年单年算力支出预计达500亿美元，日均超过1.3亿美元。截至2025年底，OpenAI对云服务商的算力采购承诺估计高达6650亿美元。
在这样的成本结构下，自研芯片的账本正在变得划算。据SemiAnalysis估算，将供电、散热、网络全部纳入后，Jalapeño每芯片每小时总拥有成本约为1.56美元，与H100的1.55美元几乎持平，而英伟达Vera Rubin则高达3.61美元。博通CEO陈福阳此前表示，Jalapeño相比典型AI图形处理单元展现出约50%的成本节省。
OpenAI并非孤例。谷歌凭借TPU系列长期深耕云端；微软打造Maia系列；亚马逊开发Trainium和Inferentia；Meta迭代MTIA芯片。据国金证券研判，谷歌、亚马逊、Meta、OpenAI及微软的ASIC数量在2026至2027年将迎来爆发式增长，机构预计2026年ASIC芯片出货量约770万片，市场份额达45%，并将在2027年超过GPU份额达到58%。
英伟达仍是伙伴，但格局在变
Jalapeño的发布并不意味着OpenAI与英伟达关系的终结。就在上周，英伟达宣布为OpenAI在俄亥俄州的大型数据中心项目提供高达1050亿美元的信贷支持，该项目将独家使用英伟达计算方案。OpenAI也表示，未来将持续“广泛部署来自英伟达及其他合作伙伴的加速器，用于训练和推理工作负载”。
但竞争压力正在积聚。据CNBC报道，来自定制芯片的竞争已是英伟达财报电话会议上的常设议题。分析人士认为，Jalapeño的进展意味着AI行业过去由英伟达GPU主导的推理算力供应模式，正在被头部模型厂商的自研定制芯片打开第一道缺口。
需要指出的是，Jalapeño此次测试对比的对象为英伟达GB200和GB300系统，尚未与英伟达最新一代Vera Rubin芯片进行对比。量产将在2027年逐步爬坡，大部分产出集中在2027年底。从测试数据到大规模部署，中间仍有不小的距离。
无论如何，当一家每年要烧掉500亿美元算力费用的AI公司开始自己造芯片时，整个行业的成本结构和竞争逻辑都在被重新计算。
本文由AI辅助生成
