精华速览
国产大模型竞争正从模型层延伸至算力层，算子效率直接影响显卡运行速度与token成本。DeepSeek近日全面开源推理框架DeepInfer，将模型运行链路开放，此前已开源模型权重及FlashMLA、DeepGEMM等算子库。其中FlashMLA经工程师逐行手调，算子性能达硬件极限90%以上。同一周，完全由AI编写、无人工逐行调优的ForgeKernel截至10月22日同时登顶英伟达SOL-ExecBench FlashInfer-Bench合集与昇腾CANNBench A3硬件榜，基准加速比1.835倍，领先第二名25%。在DeepSeek v4.1 Flash算子上，ForgeKernel从零用AI迭代也实现对DeepSeek开源英伟达版本的性能超越。
要点透视
- DeepSeek近日全面开源推理框架DeepInfer，在模型权重和FlashMLA、DeepGEMM等算子库之后进一步开放模型运行链路。
- FlashMLA的工程师逐行手调版本算子性能达到硬件极限的90%以上，被视为人类手工调优在部分芯片上的极限成绩。
- 截至10月22日，完全由AI编写、无人工逐行调优的ForgeKernel同时登顶两个算子评测榜：英伟达主场的SOL-ExecBench FlashInfer-Bench合集第一，以及昇腾CANN官方仓库维护的CANNBench A3硬件榜第一。
- ForgeKernel在CANNBench A3硬件榜的基准加速比为1.835倍，领先第二名25%。
- 在DeepSeek v4.1 Flash的算子上，ForgeKernel通过从零用AI迭代的方式，性能超过DeepSeek开源的英伟达版本。
- 算子效率决定同一块显卡能跑多快，也决定每个token的价格，竞争已从模型层延伸到算力层。
文章拆解
这则素材的核心信息有两条线：一是DeepSeek把推理框架DeepInfer全面开源，继模型权重、FlashMLA、DeepGEMM之后，进一步把模型运行链路开放；二是AI自动生成算子的ForgeKernel在同一周登顶英伟达与昇腾两个算子评测榜。两条线交汇于同一个判断——算子层正成为国产大模型竞争的新前线。
从背景看，模型能力最终要在芯片上以算子形式执行。同一模型、同一芯片，换一套更优算子可能带来数倍性能提升，这直接关系到单位显卡的吞吐和每个token的成本。DeepSeek持续开源算子库与推理框架，客观上降低了开发者复现和调优的门槛，也让其技术路线接受外部检验。FlashMLA手调版本达到硬件极限90%以上，说明人工调优在部分芯片上已接近天花板，继续压榨空间有限。
ForgeKernel的意义在于换了一种生产方式：不依赖工程师逐行手调，而由AI从零迭代生成算子。其在英伟达SOL-ExecBench FlashInfer-Bench合集和昇腾CANNBench A3硬件榜同时第一，基准加速比1.835倍、领先第二名25%，且在DeepSeek v4.1 Flash算子上超过DeepSeek开源的英伟达版本。这说明AI自动优化在跨硬件平台上具备可迁移的竞争力，对算子工程师的工作方式可能形成实质冲击。
对行业和用户而言，若AI生成算子能稳定复现，算力利用效率的提升有望传导至推理成本，进而影响token定价和国产芯片的软件生态适配速度。值得关注的变量包括：两个榜单的评测口径与硬件配置是否完全可比，尚待确认；ForgeKernel的领先是否在更多模型和芯片组合上成立，目前素材仅覆盖有限场景；AI生成算子的正确性、稳定性和可维护性仍需工程验证。潜在风险在于，若过度依赖榜单成绩而忽视长尾场景的鲁棒性，实际部署可能出现性能与预期不符的情况。总体看，开源接力与AI自动优化的叠加，指向让国产智能在更多芯片上跑得更快这一方向，但结论的普适性仍需更多独立复现。
暂无评论。