编者按:本文来自微信公众号网易科技(ID:tech_163),作者:辰辰,编辑:王凤枝,创业邦经授权转载。
第一代自研芯片,通常是用来交学费的。OpenAI这次没有。当地时间8月25日,OpenAI在芯片行业会议Hot Chips期间,公布了Jalapeño的第一组实测数据。

SemiAnalysis甚至认为,Jalapeño的表现已经超过英伟达Blackwell。

但一家第一次造ASIC的模型公司,第一代产品就摸到了前沿推理芯片的竞争区间,这件事本身已经不寻常。
而比性能图更值得留意的,是OpenAI正在让AI参与芯片的设计和编程,试图绕过自研芯片最难补齐的那块短板:软件生态。Jalapeño真正触碰的,可能不是英伟达某一代芯片的性能上限,而是比性能更深一层的东西:CUDA。
三组数据
三个模型
Jalapeño是OpenAI与博通合作开发的推理专用ASIC,只做推理不做训练,围绕特定负载定制,不依赖英伟达的CUDA生态。它今年6月首次公开,两个月后OpenAI交出了第一份成绩单。测试使用的是SemiAnalysis推出的公开基准InferenceX,对比对象是英伟达GB200和GB300系统。三个模型跑下来:每瓦能够完成的AI工作量,高出1.5至1.9倍;端到端延迟优势达到1.7至3.6倍;在高交互场景中,性能高出2.1至4.1倍。
700瓦背后的账
我们回到芯片规格。

为什么它能同时做到快和省电
这和Jalapeño的设计起点有关。通用加速器需要兼顾训练、推理以及不同类型的计算任务。Jalapeño从一开始围绕语言模型推理设计,尤其关注需要连续执行多个步骤的智能体负载。语言模型推理大致分成两个阶段。预填充阶段需要处理整段输入,计算更密集;进入解码阶段后,模型逐个生成token,瓶颈更多来自内存带宽。数据还要在芯片之间搬运,传输过程中,一部分计算单元只能等待。Jalapeño的做法是把模型状态(包括生成时使用的KV缓存)尽量放在离计算更近的位置,减少搬运。网络也被算进整体架构里,让任务尽量在一个相互连接的系统内跑完。它不是只针对某一个模型定制的芯片。OpenAI希望它能够覆盖不同规模、不同架构的推理负载,并在预填充和解码之间灵活分配计算、内存和网络资源。SemiAnalysis创始人兼首席分析师迪伦·帕特尔(Dylan Patel)受邀前往OpenAI实验室查看芯片,并参与验证InferenceX的部分运行。他在报告中的评价很高:第一代自研芯片通常没有竞争力,但Jalapeño在他们目前能够测试的产品中,已经超过多款英伟达、AMD和谷歌芯片。
AI参与芯片
也在动摇CUDA的一部分护城河
Jalapeño的诞生速度,可能比它的运行速度更值得注意。从设计到流片,只用了九个月;从团队组建算起,前后大约十六个月。对一支从零开始的芯片团队来说,这是很快的节奏。AI在其中起了直接作用。OpenAI使用自己的模型探索实现方案、缩短验证循环,并帮助优化芯片中的算术电路。反过来,这颗芯片也被设计成更容易让AI参与编程的样子。工程师使用OpenAI自研的编程语言Gluon编写内核。一段内核代码可能长达数千行,需要不断针对芯片结构手工调优。后来,OpenAI让内部Codex配合GPT-Astra参与这项工作。两个月内,团队把三个原本不在生产计划中的开放权重模型适配到了Jalapeño上。在部分GPT-OSS注意力模块和混合专家模块中,AI生成的实现比原有的人类专家版本快1.5至1.8倍。OpenAI特意说明,这个数字只适用于选定模块,不能外推到整个模型。这些数据仍然有限,但它指向了Jalapeño最反常识的地方:AI已经开始参与芯片本身的设计、验证和软件优化,而不只是被服务的对象。这件事对CUDA的意义比对性能的意义更大。过去,ASIC可以围绕特定负载获得漂亮的性能,但每增加一个新模型,团队都要重新编写内核、适配算子、维护编译器和调试工具。GPU贵,CUDA的价值恰恰在于把这些成本分摊给了一个庞大的开发者和软件生态。Jalapeño展示了另一条路径:OpenAI不必先复制一整套CUDA生态,而是让AI参与编写和优化底层代码,降低新模型进入自研芯片的适配成本。如果这种方法能够稳定扩展,CUDA面对的未必是另一个CUDA。过去需要大量工程师和多年生态积累解决的一部分适配工作,未来可能由模型自动生成、测试和优化代码来完成。但现在还不能把这写成CUDA护城河已经失效。Jalapeño主要服务OpenAI自己的模型和负载,外部开发者还不能像使用CUDA一样,在这套平台上自由部署和维护应用。它说明OpenAI能在内部降低对CUDA的依赖,但还没说明OpenAI建起了一套面向市场的替代生态。和英伟达的关系还没有翻篇
这组数据出来后,最微妙的仍然是OpenAI与英伟达的关系。8月17日,英伟达刚刚宣布为SB Energy在俄亥俄州建设PORTS-Pike园区提供信用支持。据《金融时报》等媒体报道,相关支持上限可能达到1050亿美元。但这不是英伟达直接向OpenAI发放贷款。SB Energy负责建设和运营园区,OpenAI签下20年租约;英伟达支持的是土地、电力、建筑以及部分剩余价值安排。作为交换,这座园区将独家采用英伟达计算平台。一边是OpenAI继续依靠英伟达扩张算力,另一边是OpenAI拿出自己的推理芯片。两件事并不矛盾。理查德·何对彭博社说:"英伟达是非常好的合作伙伴,我们仍然需要大量的英伟达。"Jalapeño只做推理,不覆盖训练。OpenAI也明确表示,未来还会大量用英伟达和其他厂商的加速器,训练和推理都用。Jalapeño使用的HBM4,是目前半导体行业最紧缺的零部件之一。OpenAI与博通去年10月公布了一项10GW多代自研加速器合作计划,目标从2026年下半年开始部署,到2029年底完成。如果按计划扩大,OpenAI将成为HBM4市场上的重要买家。这里需要保留边界:10GW对应的是多代加速器和长期部署计划,不能全部换算成当前这一代Jalapeño的产量。还有两个前提要放在一起看
除了第一节已经交代的Rubin对比和数据来源,还有两个前提。测试使用的三个模型规模不小,却不是各家最新的开放模型。更新、更复杂的模型在Jalapeño上的适配速度和实际表现,还需要继续观察。不同系统采用的推理优化方式也不完全一致。Jalapeño此次使用单token预测,英伟达部分公开生产数据则使用多token预测等优化。SemiAnalysis认为,如果统一配置,领先幅度可能发生变化;反过来,Jalapeño未来加入类似优化后,也可能继续提高性能。把四个前提放在一起:OpenAI确实造出了一颗能运行、第一代就进入竞争区间的推理芯片;但它还没有证明,这颗芯片能够在量产、真实生产负载和更广泛模型上持续保住优势。、下一颗芯片
可能比这一颗更重要
OpenAI造这颗芯片的速度,可能比今天的性能排名更值得琢磨。2024年年中立项,2025年11月流片,2026年8月交出第一组实测数据。前后不到两年。萨姆·奥特曼(Sam Altman)在X上只发了一句话:"我们造了一颗芯片,它很快。"

本文为专栏作者授权创业邦发表,版权归原作者所有。文章系作者个人观点,不代表创业邦立场,转载请联系原作者。如有任何疑问,请联系editor@cyzone.cn。







