OpenAI揭晓自研芯片测试成绩,能效表现更强

日前,OpenAI方面公布了首款自研AI芯片Jalapeño的测试结果,显示在单用户Token处理量和每千瓦吞吐量等指标上,Jalapeño的表现超过目前市面上的头部AI推理芯片。据悉,这一测试采用了SemiAnalysis开发的公共基准测试工具InferenceX,并通过GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款模型进行测试。

OpenAI公布首款自研芯片,AI吞吐量是GB300的1.7倍

OpenAI公布的测试结果显示,相比GB200、GB300,Jalapeño在这三款模型上的峰值吞吐量每瓦性能提升约1.5至1.9倍,端到端延迟降低约1.7至3.6倍。其中,在GPT-OSS 120B上,其每千瓦峰值吞吐量较GB200高出约1.9倍;在DeepSeek R1 670B上,每瓦性能较GB300高出约1.7倍;而在Kimi K2.5 1T上,Jalapeño的每瓦性能较GB300高出约1.5倍。

OpenAI公布首款自研芯片,AI吞吐量是GB300的1.7倍

据了解,Jalapeño是由OpenAI与博通合作开发,基于台积电3nm制程打造,是面向大模型推理的ASIC芯片,并不用于模型训练,将仅供OpenAI内部使用。目前,第二代Jalapeño已进入后期开发阶段,第三代也启动了概念设计,OpenAI方面计划于2026年年底前小规模部署,并在2027年逐步扩大部署规模。

OpenAI公布首款自研芯片,AI吞吐量是GB300的1.7倍

除了OpenAI外,多个AI厂商也在推进自研芯片。例如谷歌早在2016年就推出第一代TPU,并于2025年推出第七代TPU Ironwood,进一步面向AI推理场景优化;亚马逊则在2019年推出Inferentia,2020年推出Trainium,分别面向AI推理和训练,并仍在持续推进后续产品;微软继2023年发布首款自研AI加速器Maia 100后,2026年推出了基于3nm制程打造的Maia 200。


而在国内市场,华为方面早在2018年就已发布昇腾系列AI芯片,百度于2020年推出昆仑AI芯片,阿里平头哥则在2019年发布了首款自研AI推理芯片含光800。


【本文图片来自网络】

踩(0)

最新文章

相关文章

大家都在看