精华速览

曾以共同第一作者身份参与Kimi底层架构研究的17岁研究者陈广宇，于10月15日在X平台宣布已离开月之暗面，并确认将前往美国旧金山湾区。Anthropic研究员Sholto Douglas在评论区邀请其赴旧金山工作，引发外界对其加入Anthropic、参与Claude研发的猜测，但陈广宇明确回复“不是”。截至发稿，其下一家雇主、职位及入职时间均未公开。陈广宇在Kimi期间从事大语言模型扩展与预训练工作，涉及Kimi K3，研究重点包括模型架构、优化器及高效硬件适配算法，曾参与Attention Residuals、MoMoE等项目，并较早参与加速KDA计算内核的工作。

要点透视

  • 10月15日，陈广宇在X平台宣布已离开月之暗面，并确认将前往美国旧金山湾区，但明确否认加入Anthropic。
  • 陈广宇在Kimi从事大语言模型扩展与预训练工作，涉及Kimi K3，研究重点为模型架构、优化器及高效硬件适配算法与计算内核。
  • 2026年3月16日公开的Attention Residuals论文中，陈广宇与张宇、苏剑林并列为同等贡献的共同第一作者，该研究在总参数480亿、激活参数30亿的Kimi Linear架构上以1.4万亿token预训练数据验证。
  • 官方项目资料称，Block AttnRes在扩展规律实验中可达到需多用25%计算量的基线模型损失水平，该结论对应特定实验条件。
  • 陈广宇此前参与Tilde Research的MoMoE项目，该项目于2025年7月发布，聚焦混合专家模型的显存与计算效率优化。
  • 2025年11月，陈广宇进入Kimi团队实习；加入Kimi前，他曾在Tilde Research从事应用可解释性研究。
  • 网络流传的“百万美元工作邀约”“退学”等说法源于投资人Deedy Das的分享，但Deedy未透露当事人姓名，相关关联仅为猜测。

文章拆解

陈广宇的离职之所以引发关注，核心在于其年龄与参与项目的权重形成了反差。17岁即进入月之暗面核心架构研究序列，并以共同第一作者身份参与Attention Residuals，这在当前大模型人才竞争中属于少见样本。从公开信息看，他的研究路径较为连贯：从Triton矩阵乘法、Flash Attention等计算内核实践，到MoMoE的显存与计算效率优化，再到跨层信息聚合的Attention Residuals，均围绕“算法如何高效落到硬件上”这一主线展开。这种从底层算子到模型架构的贯通能力，正是当前大模型预训练团队稀缺的。

Attention Residuals的技术逻辑值得单独审视。传统PreNorm Transformer以固定权重累加各层输出，网络加深后隐藏状态幅度可能持续增大，单层贡献被稀释。该研究用跨层softmax注意力替代固定累加，使模型能以可学习、与输入相关的权重选择性聚合早期层表示；Block AttnRes进一步将网络分块，块内保留普通残差、块间做注意力聚合，以控制存储与通信开销。在480亿总参数、30亿激活参数的Kimi Linear架构上，1.4万亿token预训练数据显示Block AttnRes可匹配多用25%计算量的基线损失水平。需要强调的是，这一收益对应特定实验条件，尚不能推导为通用结论。

从行业影响看，此事折射出两个趋势。其一，顶尖AI研究者的低龄化与项目参与深度正在提升，传统学历路径不再是唯一入口，开源项目、技术分享和限时实验测试成为新的能力证明方式。其二，湾区对年轻研究者的吸引力依然显著，Anthropic研究员的公开邀请即是一例，但陈广宇否认加入Anthropic，说明其选择尚未落定，也提示外界不宜将社交平台互动直接等同于入职信号。

值得关注的变量包括：陈广宇最终去向及其在新环境中能否延续从内核到架构的研究连贯性；Kimi团队在其离开后相关研究方向的推进节奏；以及Attention Residuals与Block AttnRes能否在更大规模模型上复现实验收益。潜在风险在于，围绕“天才少年”的叙事容易掩盖技术成果的边界条件，百万美元邀约、退学等传闻均缺乏当事人确认，尚待确认。对行业而言，比追问下一站更有价值的是观察这批年轻研究者能否持续产出可复现、可验证的工作。

查看原文