OpenAI 和 Broadcom 推出用于大型语言模型推理的 Jalapeño 芯片

OpenAI 与 Broadcom 合作开发定制 AI 芯片

OpenAI 和 Broadcom 宣布了一款专为数据中心大型语言模型推理设计的新型芯片，这标志着 AI 行业在向定制硬件深入发展的又一信号。

这款名为 Jalapeño 的芯片被定位为两家公司长期合作的第一代产品。Broadcom 表示，该专用集成电路是从零开始为大型语言模型推理设计的，基于与 OpenAI 研究人员的讨论中获得的“详细洞见”以及公司对未来模型和产品的路线图。Broadcom 称该芯片在九个月内完成设计与制造。

OpenAI 表示，早期测试表明 Jalapeño 将在“每瓦性能上显著优于当前最先进水平”，但同时补充说测试仍在进行中，更多技术细节报告将在未来几个月公布。

这一努力反映出 OpenAI 希望掌控其模型和产品背后更多基础设施的更广泛雄心，减少对诸如 Nvidia 等外部供应商的依赖。此举也发生在 AI 公司继续寻找方法以在全球数据中心紧张的情况下延伸有限算力资源之时。

Broadcom 作为基础设施构建者的重要芯片供应商，随着超大云服务商和前沿模型开发者寻求针对自身工作负载定制的专用芯片，亦一直在扩展其定制硅片业务。

两家公司均表示，预计 Jalapeño 芯片将在今年年底前部署到数据中心。

来源：

• arstechnica.com

在 Doppler VPN Blog 阅读更多科技新闻。