事件摘要

AI 圈近期热炒新概念 RSI（递归自我改进），指 AI 自主编写代码、运行实验、改进训练流程，并将改进传递给下一代模型，形成加速循环。其思想可追溯至 1965 年 I.J. Good 提出的智能爆炸设想。上海交大、清华、字节跳动等机构合作的预印本将 RSI 自主性分为 L1 至 L5 五级，L5 意味着改进机制本身也成为改进对象。OpenAI 报告称已实现自动化研究实习生目标，Anthropic 则让 Claude 参与安全研究并迭代方案。与此同时，OpenAI、Anthropic 高管密集发出安全警告，英伟达 CEO 黄仁勋则反驳安全与创新二选一的说法。争议背后，既有技术路线分歧，也涉及算力、资本与行业标准的利益分配。

关键事实

  • RSI 全称 Recursive Self Improvement，即递归自我改进，指 AI 自主改进研发流程并传递给下一代模型。
  • 该思想可追溯至 1965 年英国数学家 I.J. Good 提出的智能爆炸设想。
  • 上海交通大学、清华大学、字节跳动、上海人工智能实验室等机构合作的预印本将 RSI 自主性划分为 L1 至 L5 五个层级。
  • OpenAI 9 月 6 日内部报告称已实现自动化研究实习生目标，截至 8 月中旬每投入一个人类工作日，研究部门智能体运行时长相当于 3.1 个工作日。
  • Anthropic 实验中，Claude Sonnet 5 在约 60 小时内测试 50 多种方案，用约 2400 条训练样本将早期 Claude Opus 4.8 的对齐成绩推到接近正式版水平。
  • 北大校友翁荔重返 OpenAI 后带队研究递归自我改进，其技术博客讨论的 Harness Engineering 被视为理解当下 RSI 的入口。
  • 对于超级人工智能 ASI 的时间预测存在分歧：John Schulman 预计 3 至 4 年，Millidge 倾向约 5 年，O'Neill 认为可能需要 5 至 10 年。
  • Anthropic 前研究员 Jacob Coxon 9 月 8 日辞职并警告两家公司正拿全人类性命当赌注，该声明浏览量超过 1.7 亿次。

影响与观察

RSI 概念的核心在于 AI 能否改变产生自身能力的系统，而不仅是完成单项任务。从 L1 执行人类方案到 L5 改进机制本身，自主性逐级上升。OpenAI 和 Anthropic 的近期实验显示，AI 已在受控范围内参与代码编写、实验运行和安全对齐，部分任务效率超过人类研究员。这意味着研发速度可能加快，但距离所谓智能爆炸仍有明显距离。尚待确认的是，这些实验能否在更开放环境中持续迭代而不出现灾难性遗忘或目标漂移。

影响首先落在前沿 AI 实验室。它们既是技术推动者，也是风险标准的定义者。Anthropic 和 OpenAI 高管呼吁降速并引入第三方评估，但高额合规成本可能构成对开源社区和中小企业的壁垒。英伟达则从硬件利益出发反对安全叙事限制算力扩张。争议表面是安全与创新之争，实质涉及下一轮算力、资本和产业规则的分配。

值得关注的是，RSI 的技术判断力仍是瓶颈。AI 可以优化明确目标的代码，却难以判断失败实验是方向错误还是值得继续。从“怎么做”到“该做什么”的跨越仍依赖人类直觉。因此，当前关于末日风险与反末日风险的争论，既有真实技术不确定性，也有商业叙事成分。读者应区分可验证的实验进展与尚待确认的长期预测，关注第三方评估机制能否真正独立，以及安全规则制定权是否过度集中于头部公司。

查看原文