精华速览
10 月 15 日,蚂蚁集团旗下百灵大模型宣布开源 Ling-3.1-flash,权重已在 Hugging Face 和 ModelScope 上线。该模型延续 Ling-3.0-flash 的混合线性架构,总参数约 560B,每 Token 激活约 25B,最高支持 1M 上下文,主打办公、医疗、软件工程、终端操作等真实复杂工作流。评测方面,其在 GDPVal-AA V2.1 获 1673 分(ELO),HealthBench Professional 得分 65.35,并在 FrontierSWE、Terminal-Bench 4.0 中展现工程任务处理能力。Artificial Analysis 公开评测显示其智能指数 41、输出约每秒 210 Token,混合调用价格约每百万 Token 0.19 美元。本地部署经量化后权重由约 534GB 降至 292GB,Hopper GPU 测试配置由 8 卡降至 4 卡。
要点透视
- 10 月 15 日,蚂蚁集团百灵大模型开源 Ling-3.1-flash,权重面向 Hugging Face 和 ModelScope 提供下载。
- Ling-3.1-flash 延续 Ling-3.0-flash 的混合线性架构,总参数约 560B,每 Token 激活约 25B,最高支持 1M 上下文。
- 在办公任务评测 GDPVal-AA V2.1 中,Ling-3.1-flash 获得 1673 分(ELO);在 HealthBench Professional 医疗场景评测中得分 65.35。
- 模型在软件工程基准 FrontierSWE 和终端操作基准 Terminal-Bench 4.0 中同样表现出处理复杂工程任务的能力。
- Artificial Analysis 公开评测显示,Ling-3.1-flash 智能指数为 41,输出速度约每秒 210 Token,混合调用价格约每百万 Token 0.19 美元。
- 针对本地部署,团队对 routed experts 采用 MXFP4 量化、dense 层保持 block-FP8,权重占用从约 534GB 降至 292GB;在 Hopper GPU 测试配置中,服务部署由 8 卡降至 4 卡。
- Ling-3.0 系列此前已在服务器、个人电脑和移动端开展部署实践,例如单台 NVIDIA DGX Spark 运行 Ling-3.0-flash,16GB MacBook Air 运行 Ling-3.0-tiny。
- Ling-3.0 系列模型在 Hugging Face 近 30 天下载量接近 100 万次,社区已提供 Flash GGUF、Tiny GGUF、Flash MLX 4bit 等多种适配版本。
文章拆解
从素材看,Ling-3.1-flash 的发布并非单纯追求参数规模,而是围绕“真实可用”和“智效比”做工程化取舍。约 560B 总参数、每 Token 激活约 25B 的混合线性架构,意味着模型在保持较大知识容量的同时,试图控制单次推理的算力开销;1M 上下文则直接对应办公、医疗、软件工程等需要连续处理长资料、多轮修改的场景。
评测数据提供了横向参照:GDPVal-AA V2.1 的 1673 分(ELO)和 HealthBench Professional 的 65.35 分,分别指向办公任务与医疗专业场景;FrontierSWE 和 Terminal-Bench 4.0 则覆盖软件工程与终端操作。这些基准能否完全等同于生产环境表现,尚待确认,但至少说明百灵在训练与评测阶段有意对齐复杂工作流,而非只做通用问答。
成本与部署是另一条主线。每百万 Token 约 0.19 美元的混合调用价格、约每秒 210 Token 的输出速度,以及智能指数 41,共同构成面向高频业务调用的“智效比”组合。对需要连续调用模型处理资料、生成内容并根据反馈修正的企业知识助手和代码助手而言,响应速度与单次成本会直接影响产品可行性。
本地部署的量化方案同样值得关注。routed experts 采用 MXFP4、dense 层保持 block-FP8,使权重占用从约 534GB 降至 292GB,Hopper GPU 测试配置由 8 卡降至 4 卡。这降低了具备服务器级 GPU 团队的硬件门槛,但量化对精度和稳定性的实际影响,仍需更多第三方验证。
从生态看,Ling-3.0 系列近 30 天在 Hugging Face 下载量接近 100 万次,并已有 GGUF、MLX 4bit 等社区适配,说明百灵的开源策略正在形成从服务器到个人电脑、移动端的部署路径。Ling-3.1-flash 在此基础上进一步开源,可能加速开发者在自有环境中验证和二次适配。潜在风险在于,真实业务交付对可靠性、数据合规和领域准确率要求更高,基准分数与调用价格能否转化为稳定生产力,尚待确认;金融、医疗等专业场景的增强模型效果,也需要独立评估。

暂无评论。