精华速览

欧洲云服务企业 OVHcloud 于 11 月 17 日发布首个 AI 模型家族 Olala,并推出首个成员 Olala mini 7A1B。该模型采用 Differential-TPA 与 Mamba-3 结合的混合注意力机制,总参数 70 亿、激活参数 10 亿,以 Apache 2.0 许可在 Hugging Face 开源。其可在 8GB 显存 GPU 上运行,RTX A4500 上词元吞吐量达 160 TPS,纯 CPU 平台为 50 TPS。模型在三台欧洲公共超级计算机上利用 NVIDIA GH200、A100、H100 训练,总开销 700 万欧元。初始上下文长度 32K,年底 1.1 版本将扩至 128K 并提升数学能力,后续 Olala 2.0 参数规模将超 100B。

要点透视

  • OVHcloud 于当地时间 11 月 17 日宣布推出首个 AI 模型家族 Olala,首个成员为 Olala mini 7A1B。
  • Olala mini 7A1B 总参数 70 亿、激活参数 10 亿,采用 Differential-TPA 与 Mamba-3 结合的混合注意力机制,使用 BF16 数据格式。
  • 该模型以 Apache 2.0 许可开源发布在 Hugging Face 上,可在 8GB 显存 GPU 上运行。
  • 在 RTX A4500 上词元吞吐量达 160 TPS,仅 CPU 平台也能实现 50 TPS。
  • 模型在三台欧洲公共超级计算机上利用 NVIDIA GH200、A100、H100 训练而成,总开销达 700 万欧元(约合 5142.8 万元人民币)。
  • 初始版本上下文长度为 32K,预计今年底推出的 1.1 版本将扩展至 128K 上下文并具备更好的数学能力。
  • OVHcloud 后续将持续开发 AI 模型,Olala 2.0 的参数规模将超过 100B。

文章拆解

OVHcloud 作为欧洲云服务商,此次发布 Olala mini 7A1B 标志着其从基础设施提供方向 AI 模型研发延伸。选择开源 Apache 2.0 许可并在 Hugging Face 发布,有助于快速吸引开发者试用和反馈,同时强化欧洲本土 AI 生态的自主性。该模型总参数 70 亿但激活参数仅 10 亿,结合混合注意力机制,在保持较低推理成本的同时兼顾性能,8GB 显存即可运行、纯 CPU 50 TPS 的指标使其适合边缘设备和资源受限场景。训练使用欧洲公共超级计算机和 NVIDIA 加速卡,700 万欧元的开销在同类小模型中属于较高投入,反映其对训练质量的重视。从行业影响看,Olala mini 7A1B 可能加剧小参数高效模型的开源竞争,并为欧洲云服务商提供差异化 AI 服务打下基础。值得关注的变量包括:1.1 版本 128K 上下文和数学能力提升的实际效果;Olala 2.0 超 100B 参数模型的训练成本与发布时间尚待确认;开源许可下社区生态的活跃度;以及该模型在 OVHcloud 云平台上的商业化整合路径。潜在风险在于,小模型市场竞争激烈,若后续版本迭代不及预期,可能难以形成持续吸引力;同时,训练依赖 NVIDIA 硬件,供应链和成本控制仍是长期挑战。

查看原文