精华速览

OpenAI近日公开了一项大规模Agent实测结果，测试中上万级Agent持续运行36小时，累计消耗约1万亿Token。该测试旨在验证多Agent系统在长时间、高并发场景下的稳定性与资源消耗特征。从披露数据看，Agent在持续自主执行任务时对Token的消耗速度远超常规对话场景，暴露出当前大模型推理成本与调度效率之间的紧张关系。这一实测为行业提供了罕见的万级Agent真实运行样本，也意味着Agent从演示走向规模化落地时，算力与成本控制将成为核心瓶颈。

要点透视

  • OpenAI公开了一项万级Agent实测，参与测试的Agent数量达到万级规模。
  • 测试持续运行36小时，期间累计消耗约1万亿Token。
  • 该测试由OpenAI披露，素材来源为新智元，原始信息指向Agent长时间自主运行场景。
  • 万级Agent在36小时内消耗1万亿Token，折算下来单位时间Token吞吐量极高。
  • 测试目的指向验证多Agent系统在长时间、高并发条件下的运行表现。
  • 此次披露的规模在公开Agent实测中较为罕见，为行业提供了真实运行数据参考。

文章拆解

这次OpenAI披露的万级Agent实测，核心价值不在于“1万亿Token”这个数字本身，而在于它把Agent规模化运行的真实成本摆到了台面上。过去行业讨论Agent，多集中在单任务能力、工具调用准确率或演示效果，很少有机会看到上万级Agent连续运行36小时的资源账单。这次实测相当于一次公开的压力测试：当Agent不再是被人类逐条触发的对话工具，而是持续自主决策、互相协作或并行执行任务时，Token消耗会以远超预期的速度累积。

从逻辑上推导，万级Agent在36小时内消耗1万亿Token，意味着平均每个Agent每小时消耗的Token量相当可观。这背后可能涉及多轮推理、上下文反复加载、工具调用结果回传以及Agent之间的通信开销。换句话说，Agent的“智能”越自主，隐性的推理成本就越高。对于试图将Agent投入生产环境的团队而言，这一数据是一个明确的成本预警：如果按当前主流API定价粗略估算，1万亿Token对应的费用将是一个不小的量级，尚待确认OpenAI是否使用了内部优化或特殊计价方式。

对行业的影响可能体现在两个层面。第一，Agent平台的竞争焦点会从“能不能做”转向“能不能便宜地持续做”，推理效率、缓存复用、上下文压缩和调度策略将变得和模型能力同样重要。第二，万级Agent的稳定性问题会被放大，36小时连续运行中是否出现任务漂移、死循环或资源泄漏，素材未披露细节，但这些恰恰是生产环境最关心的变量。

潜在风险同样值得注意。如果Agent的Token消耗随规模呈非线性增长，那么中小团队几乎无法承担万级Agent的持续运行成本，Agent能力可能进一步向头部厂商集中。此外，长时间自主运行带来的可控性问题、错误累积和审计难度，也需要更多实测数据来验证。总体来看，这次披露更像一个起点：它告诉行业Agent规模化不是免费的，下一步要看谁能把单位Token的Agent产出效率做得更高。

查看原文