精华速览

联合国下属国际AI科学专家组多名专家在纽约联合国大会期间发声，反对业内部分人士渲染AI“毁灭人类”的极端言论。谷歌DeepMind高管若埃尔·巴拉尔、诺贝尔和平奖得主玛丽亚·雷萨及小组联合主席约书亚·本吉奥均呼吁改变讨论方式，区分已有科学定论的风险与基于证据的合理外推。此前有前Anthropic、OpenAI员工及前DeepMind工程师声称AI可能在本十年内消灭人类。该专家组成立于2025年，成员于2026年2月遴选完成，旨在为联合国AI议事提供科学参考。

要点透视

  • 联合国国际AI科学专家组在纽约联合国大会期间举办论坛，多名专家反对AI末日论调。
  • 谷歌DeepMind高管若埃尔·巴拉尔表示，科研工作者应厘清哪些内容已有定论、哪些尚属未知，渲染恐惧无益。
  • 前Anthropic及OpenAI员工雅各布·考克森9月初声称，AI研发人员认为该技术可能在本十年结束前毁灭全人类。
  • 一名7月从谷歌DeepMind离职的研发工程师也发表类似看法，称人类或许已来不及避免被AI彻底消灭。
  • 诺贝尔和平奖得主玛丽亚·雷萨指出，AI风险讨论长期走向两个极端：要么渲染生存威胁，要么认为风险无足轻重。
  • 国际AI科学专家组设立于2025年，成员于2026年2月遴选完成，任务是为联合国相关磋商提供参考。
  • 小组联合主席、AI奠基人之一约书亚·本吉奥强调，需分清科学已掌握的AI风险事实与基于证据的合理外推，后者专家群体尚存分歧。

文章拆解

这场争论的核心并非AI是否存在风险，而是风险讨论的话语方式正在被两极叙事绑架。一方面，部分曾任职于OpenAI、Anthropic和DeepMind的从业者抛出“本十年内毁灭全人类”的极端判断，这类言论因出自一线研发者之口而获得额外传播权重；另一方面，联合国专家小组则试图将讨论拉回科学框架，强调区分“已有定论”与“合理外推”的边界。本吉奥的提醒颇具针对性：高声渲染危机，反而会招致同样激烈的反向声音，最终让公共讨论滑向意识形态站队，而非风险研判。

从行业影响看，这种话语分裂可能带来两个后果。其一，政策制定者面对相互矛盾的信息，难以形成稳定、可操作的监管共识，联合国层面的磋商参考价值也会被削弱。其二，公众对AI的认知容易在“杀手机器人”与“无关紧要”之间摇摆，既不利于理性科普，也可能让真正需要关注的中期风险被忽视。

值得关注的变量包括：国际AI科学专家组能否在2026年成员遴选完成后，形成一份被广泛认可的风险分级框架；以及科技公司内部研究人员公开发表极端风险言论时，企业是否会施加约束。潜在风险在于，若专家组的理性呼吁被解读为替行业淡化风险，其公信力可能受损；反之，若极端言论持续占据头条，监管可能被迫在证据不足的情况下仓促出手。目前，专家组具体将如何界定“已知事实”与“合理外推”，尚待确认。

查看原文