AI 基础设施
OpenAI 测试首款自研 AI 推理芯片 Jalapeno
OpenAI 正测试由 Broadcom 协助开发的定制 AI 芯片 Jalapeno;它面向推理和 Codex 类工作负载,目标是降低成本并减少对 Nvidia 的依赖。
2026 年 6 月 25 日最具实际意义的 AI 基础设施新闻,是 OpenAI 开始测试首款自研 AI 芯片 Jalapeno。第一代芯片面向推理而非训练,也就是说,它的用途是处理用户请求和模型输出,而不是从零训练下一款前沿模型。
对正在比较 AI 工具的人而言,这一点很重要,因为 ChatGPT、Codex、图像工具和智能体工作流的用户体验,都取决于一套看不见的硬件经济体系。更快、更便宜的推理会改变延迟、用量限制、定价、可靠性,以及 AI 产品扩展的速度。
当天发生了什么
OpenAI 已开始测试 Jalapeno,它是规划中的定制处理器家族的第一款芯片。Broadcom 在连接和芯片基础设施专业知识等项目环节提供了协助,核心设计则由 OpenAI 主导。
这款芯片正在使用类似 Codex 查询的工作负载进行测试。OpenAI 表示,首批样品的散热表现优于预期;Broadcom 预计会在年底前与 Microsoft 及其他合作伙伴推动商业应用,之后还将扩大部署规模。
为什么重要
- OpenAI 正深入 AI 硬件栈,而不再完全依赖第三方 GPU。
- 首款 Jalapeno 芯片聚焦推理,其成本和效率会影响产品的日常使用。
- Broadcom 在定制 AI 芯片领域又获得了一个备受关注的角色。
- Nvidia 在训练领域仍居于核心位置,但 OpenAI 正尝试降低推理工作负载对它的依赖。
- 面对 AI 数据中心的电力、散热和成本压力,每瓦性能的改善可能非常重要。
- 定制芯片能让 AI 实验室更好地控制产品经济性、可用性和长期基础设施规划。
AI 工具采购方会受到什么影响
多数用户不会因为底层使用哪款芯片来选择工具。但如果定制推理芯片能让响应更快、成本更低或服务更可靠,他们会直接感受到后续效果。
对企业采购方而言,重要信号是基础设施成熟度。能够掌握更多服务栈的供应商,可能更有能力支持高用量工作流、严格控制成本并清晰规划容量。风险在于,如果软件栈与单一供应商深度绑定,定制硬件也可能加重供应商锁定。
构建者应关注什么
构建者应关注 Jalapeno 会继续专注推理,还是进一步扩展到训练。推理芯片可以改善产品利润率和服务容量;训练芯片则意味着对现有 Nvidia 中心化前沿模型技术栈发起更大挑战。
他们还应关注 OpenAI 是否会提供开发者可感知的收益,例如更低的 API 价格、更高的速率限制、更快的 Codex 响应、更可靠的智能体运行,或高峰需求期间更好的可用性。
搜索意图解析
搜索 OpenAI Jalapeno 的人,很可能想知道这款芯片是什么、OpenAI 为什么要开发它,以及它是否会与 Nvidia 竞争。
搜索 OpenAI 与 Broadcom AI 芯片的人,很可能想了解定制芯片如何进入更广泛的 AI 基础设施竞赛。
搜索 AI 推理芯片的人,则在追问 Goodiebase 所关注的问题:幕后硬件会如何影响人们每天使用的 AI 工具?
Goodiebase 观点
这是一则实用的 AI 工具新闻,因为推理是 AI 产品真正接触用户的环节。模型可以在演示中令人印象深刻,但要处理数百万次请求,还需要高效的芯片、电力、散热、网络和软件编排。
对 Goodiebase 用户而言,结论是把基础设施视为产品质量的一部分。AI 工具的下一次改善可能来自更好的模型,也可能来自幕后成本更低、速度更快的推理硬件。