精华速览
记忆张量今日正式发布并开源 MemT 1.0 记忆原生大模型，试图解决 AI 跨会话遗忘、无法将反馈沉淀为经验的痛点。与主流外挂检索方案不同，MemT 1.0 将记忆内化进底层架构，通过训练让模型自主学会读写、更新和调用记忆。在 11 项系统记忆基准测试中，MemT-1.0-Flash 和 Nano 均分分别达 50.6 和 47.0，领先同组最强参数化记忆基线 12.5 分和 8.9 分。在 SWE-bench Verified 编程任务中，实时反馈更新记忆状态将 Nano 平均成功率从 66.07% 提升至 69.73%。该模型采用固定体积记忆状态，长历史下推理速度和存储效率显著优于完整上下文方案。
要点透视
- MemT 1.0 由记忆张量发布并开源，代码托管于 GitHub，模型权重上线 Hugging Face，包含 Flash 和 Nano 两个版本。
- 在 11 项系统记忆基准测试中，MemT-1.0-Flash 和 MemT-1.0-Nano 全程闭卷作答均分分别为 50.6 和 47.0，领先同组最强参数化记忆基线 12.5 分和 8.9 分。
- 训练数据共 340 亿 token，其中 200 亿 token 用于继续预训练，140 亿 token 用于后训练；消融实验显示，拿掉后训练后 Nano 均分从 47.0 降至 36.3。
- 在 SWE-bench Verified 的 500 项任务中，实时反馈更新记忆状态使 Nano 平均成功率从无经验的 66.07% 升至 69.73%，三次全成率从 54.00% 升至 62.80%。
- 在覆盖九种编程语言的 SWE-bench Multilingual 300 项任务中，Nano 平均成功率从 60.00% 提升至 63.56%，三次全成率从 45.33% 跃升至 55.33%。
- 在双 GPU、单并发、batch size 为 1 的条件下，处理 64K、128K、256K token 历史时，Nano 端到端推理速度分别为完整上下文方案的约 1.20 倍、1.86 倍和 3.99 倍。
- 128K token 历史长度下，恢复单条交互历史所需的持久状态存储约为完整上下文 KV cache 的六十六分之一，不计共享模型权重。
- MemT 1.0 采用固定体积动态记忆状态，结合 Mixture-of-Storage 架构，将 MoS 记忆专家从 2 个扩充至 4 个可使测试均分最高提升 2.7 分。
文章拆解
当前主流 AI 助理方案普遍依赖外挂检索或长上下文来维持记忆，但这类做法在长周期交互中暴露出明显短板：检索容易把闲聊当定论，长上下文则带来推理延迟和显存开销的持续膨胀。MemT 1.0 的核心逻辑是把记忆从外挂模块转为模型底层能力，通过固定体积的动态记忆状态和门控机制，让模型在每轮对话后自主决定保留或更新哪些信息，从而在不重新训练整个模型的前提下实现经验积累。
从技术路径看，MemT 1.0 的突破点在于训练模型学会“如何记忆”，而非简单扩大存储。340 亿 token 的两阶段训练、教师模型打分、Mixture-of-Storage 架构，共同支撑了模型在闭卷状态下区分定论与备选、过滤闲聊噪音的能力。编程场景的实测进一步表明，记忆原生机制能让模型在卡壳时调用经验修正动作，且效果与直接在上下文中塞入文本经验相当甚至更优，这意味着经验可以脱离对话窗口独立存在并参与决策。
对行业和用户而言，这一路线若能在更大规模上验证，将降低高频、跨周期记忆读写的工程成本，使 7×24 小时个人助理、跨月度医疗跟进、长期个性化私教等强依赖时间厚度的应用更具落地可能。企业研发场景中，团队规范和排错经验有望从每次开新会话都要重教，转为模型内化的直觉，减少重复投入。
值得关注的变量包括：固定体积记忆状态在超长周期下是否会出现容量瓶颈，门控机制在开放域任务中的取舍准确性尚待更多第三方验证，以及开源后社区复现与生态适配的进度。潜在风险在于，记忆原生模型对训练数据的依赖较强，若经验提炼环节出现偏差，错误记忆可能被固化并影响后续决策；此外，长周期陪伴场景涉及用户隐私数据的持续写入，存储与合规边界尚待确认。
暂无评论。