精华速览

联合国秘书长古特雷斯在联合国大会发表卸任前最后一次讲话，呼吁对人工智能实施全球监管，避免出现企业权力泛滥和致命自主武器横行的局面。他指出，前沿大模型飞速发展可能削弱主权国家治理能力，权力正从政府向少数私营企业和个人转移。古特雷斯呼吁建立国际共识和全新安全保障机制，并强调拥有最强AI能力的政府负有最大责任。与此同时，OpenAI呼吁国际标准，联合国专家小组警示模型可能脱离人类管控，二十多国及欧盟领导人呼吁强制性安全测试。但美国总统特朗普明确反对放缓AI发展，认为应保持对华领先优势。

要点透视

  • 联合国秘书长古特雷斯在联合国大会发表卸任前最后一次讲话，呼吁建立全新的人工智能安全保障机制和国际共识。
  • 古特雷斯警告，前沿大模型飞速发展可能削弱主权国家治理能力，权力正大规模从各国政府转移到少数私营企业与个人手中。
  • 古特雷斯特别指出，致命自主武器已从科幻设想走入军事现实，并明确表示“杀人机器人绝对不应该出现在我们的未来”。
  • OpenAI于当地时间周一呼吁制定得到国际认可的标准，以保障人工智能安全研发。
  • 联合国人工智能专家小组同日发布报告，警示能力越来越强大的模型有可能脱离人类管控。
  • 二十多个国家以及欧盟领导人呼吁对先进AI模型实施强制性安全测试，甚至考虑设立全新全球性机构确保人类掌握控制权。
  • 美国总统特朗普反对放缓AI发展，称“谁拿下人工智能，谁就赢得一切”，并认为“人工智能威胁人类”的说法是骗局。
  • 美国国务卿卢比奥表示，美国必须保护本国免受AI潜在伤害，但绝不能放弃AI领域的前沿地位。

文章拆解

古特雷斯此次发言是其十年联合国秘书长任期内对人工智能风险最紧迫的一次警示。与2017年首次在联大提及AI时关注就业冲击和贫富分化不同，如今他关注的风险已扩展到自主性AI模型可能出现非预期行为、被用于网络攻击和协助研发生物武器，以及致命自主武器进入军事现实。这一变化反映出AI技术在过去九年中从辅助工具向具备自主决策能力的方向快速演进，治理框架却远未跟上。

核心矛盾在于治理权与创新权的张力。古特雷斯指出权力正从政府向少数私营企业转移，这触及了AI时代国家主权与科技巨头权力之间的根本性问题。他含蓄呼吁中美等拥有最强AI能力的政府承担最大责任，搭建对话与透明互信渠道，实质上是希望主要大国在AI安全领域形成最低限度的协调机制。然而，特朗普政府的立场与这一方向明显相悖。特朗普将AI安全警示类比为全球变暖忧虑，并称AI威胁论是骗局，其逻辑是放缓发展速度将导致中国反超。卢比奥的表态则试图在“保护本国免受伤害”和“保持前沿地位”之间寻找平衡，但并未支持强制性国际监管。

从行业影响看，OpenAI主动呼吁国际标准、二十多国及欧盟领导人支持强制性安全测试，表明AI安全治理正在从学术讨论进入政策博弈阶段。但美国作为AI技术最领先的国家之一，其最高层对监管持消极态度，意味着短期内形成具有约束力的全球机制难度极大。值得关注的变量包括：联合国AI专家小组报告是否会推动建立新的国际机构；美国中期选举后AI政策是否调整；以及中美之间能否在AI安全领域建立实质性对话渠道。潜在风险在于，若主要大国在AI安全上持续缺乏协调，致命自主武器的扩散和AI模型失控的可能性将随技术能力提升而增加，而现有国际法对此尚无明确约束力。古特雷斯所警告的“缺乏问责约束的技术”可能成为未来数年全球安全领域最突出的治理缺口。

查看原文