通过将SGLang的优化贡献至上游开源社区,提升开发者在英特尔基础设施上运行主流AI模型的选择空间与性能
英特尔宣布与RadixArk合作,针对英特尔平台优化开源AI推理框架SGLang。这一合作旨在帮助开发者和企业,以更高效率、更优成本效益部署主流AI模型、构建AI应用。

英特尔数据中心事业部AI产品与市场拓展业务副总裁Anil Nanduri表示:“企业AI关注的重点,正从单一的性能指标,转向如何实现完整系统的生产级部署。此次合作将通过开放的技术路径,让开发者从Day-0起,即可获得为英特尔CPU、GPU及加速器所优化的高性能推理软件,同时,让他们能够根据自身需求,选择适合的工具、框架和技术。”
AI模型的规模不断扩大、复杂度持续提升,企业需要异构、开放的推理基础设施。要让AI真正进入生产环境,需要确保每一个提示词都能被调度到合适的位置,让不同工作负载匹配合适的智能能力、计算资源和成本效益。开放式推理运行时是连接各环节的关键纽带,让全栈部署在多样化的企业环境中更加切实可行、更加可靠、在成本上更具可持续性。
此次合作将进一步拓展开发者的选择,让他们能够在经过企业级应用验证的英特尔硬件上,部署主流AI模型。模型开发者和软件工程师可以基于标准化、开放的框架和接口进行开发与创新,同时,充分利用英特尔的计算密度和内置硬件加速能力,包括英特尔® 高级矩阵扩展(AMX)。借助这些能力,开发者能够更快推进产品落地、降低延迟,并灵活利用现有数据中心和云端算力资源进行部署。
RadixArk首席执行官盛颖表示:“RadixArk与英特尔的合作,是开源AI推理领域的一个重要里程碑。通过此次合作,SGLang能够直接针对英特尔平台开展优化,并将深度优化成果贡献至上游核心框架,打破限制,让开发者能够兼顾开放标准与高性能,无需在两者之间取舍。让前沿AI基础设施惠及每一位开发者,是我们一直以来的目标。英特尔成熟的企业级架构,为开发团队提供了灵活的选择和高密度的算力支持,助力其无缝扩展和部署AI工作负载。”
将硬件与软件优化相结合,是英特尔一贯的路径:直接向社区软件贡献优化成果,而不是将软件与硬件部署割裂开来。通过这些针对上游主流引擎和框架的优化成果,英特尔的目标是为前沿模型走向规模化和实际应用,提供高性能路径,同时保留开发者的灵活性、自主选择空间以及广泛的架构自由度。
