腾讯混元AI Infra核心技术开源：推理吞吐提升30%
技术资讯
AI资讯解读
先看这条资讯为什么重要，再判断它会影响哪条主线和哪些公司。
这类资讯通常先看什么：这类资讯市场通常先看技术突破是否真实落地，以及谁先受益。
这条资讯到底为什么重要
关键数据 • 推理吞吐提升： 30% ↑ • Attention算子性能： 2.22倍 ↑ • DeepSeek模型QPM提升： 17% ↑ 利好还是利空： 中长期偏利好 主要风险 • 开源技术商业化转化存在不确定性 • 面临英伟达CUDA生态和国际巨头技术壁垒竞争 • 下游应用需求增长不及预期影响技术价值兑现 一句话总结： 国产AI推理技术突破降本增效，加速产业链自主可控与商业化落地进程。
先看核心要点
国产AI推理性能实现重大突破 腾讯混元开源生产级高性能推理算子库HPC-Ops，在真实生产场景下混元模型推理QPM提升 30% ↑，DeepSeek模型QPM提升 17% ↑
技术驱动：核心算子优化突破算力瓶颈 单算子性能全面领先国际主流方案 Attention算子相比FlashAttention提升 2.22倍 ↑，GroupGEMM相比DeepGEMM提升1.88倍，FusedMoE相比TensorRT-LLM提升1.49倍
在核心计算模块实现全方位性能超越，标志国产AI基础设施技术成熟度显著提升
人工智能为什么值得看
短期看： 推理性能提升直接降低AI应用部署成本，利好 模型推理服务商、云计算厂商 和大模型应用开发环节，加速商业化进程
中长期看： 国产AI基础设施技术突破将重塑 AI算力产业格局 ↑，推动从芯片、框架到应用的全栈自主可控，增强产业链议价能力和国际竞争力
📄
资讯原文
腾讯混元AI Infra团队正式推出开源生产级高性能LLM推理核心算子库 HPC-Ops。在真实场景下，基于HPC-Ops，混元模型推理 QPM 提升30%，DeepSeek模型 QPM 提升17%。同时，在单算子性能方面，HPC-Ops实现Attention相比 FlashInfer/FlashAttention 最高提升2.22倍；GroupGEMM 相比 DeepGEMM 最高提升1.88倍；FusedMoE 相比 TensorRT-LLM 最高提升1.49倍。
