精华速览

谷歌正式推出Gemini Decision 1,进入由TypeSafe Jev在9月开创的决策模型赛道。该模型不生成文本,而是直接输出候选项概率与置信度,支持文本、图像、音频、视频和PDF混合输入,单次请求最多处理1000项独立判断。在双方均有报告的7项共享基准中,Gemini Decision 1赢下5项,Jev在When2Call工具调用和Mind2Web多模态两项上保持领先。价格方面,Gemini每百万输入Token收费0.10美元,约为Jev的2.38倍。第三方Artificial Analysis榜单显示,Gemini综合分65.98略低于Jev的66.23,单任务延迟211毫秒也高于Jev的92毫秒。谷歌入场被视为决策模型品类获得巨头认可的信号,但性能优势与成本溢价能否转化为市场优势仍待观察。

要点透视

  • Gemini Decision 1不生成文本,而是通过单次前向计算返回候选项概率分布,不产生输出Token费用,与依赖逐Token生成再解析的普通LLM路径不同。
  • 单次请求支持最多1000项独立判断,各问题共享同一份输入且互不读取彼此答案,共享输入只计费一次,上下文上限为256K Token。
  • 在7项双方均有报告的共享基准中,Gemini Decision 1领先5项;Jev 1.14在When2Call工具调用(82.0%对79.9%)和Mind2Web多模态(86.8%对86.2%)上保持优势。
  • 谷歌公布Gemini Decision 1的期望校准误差为0.0250,低于Jev 1.14的0.0494,意味着其置信度与实际正确率的偏差更小。
  • 价格上Gemini每百万输入Token收费0.10美元,Jev为0.042美元,前者约为后者的2.38倍;第三方测得的单任务延迟分别为211毫秒和92毫秒。
  • 第三方Artificial Analysis的Decision Index v2.1榜单中,Gemini Decision 1综合分65.98,略低于Jev的66.23,远低于榜首Drex Max v1.1的72.62。
  • 谷歌已在Gemini Notebook中用Decisions API做模型路由,据称日常请求延迟降低40%;Google Search将其用于MCP工具安全检查,Stitch用于交互设计中的操作选择。
  • Jev于9月发布后数周内获得75亿美元估值,a16z领投8.7亿美元,约三分之一财富500强被列为客户,但其“快193倍、便宜445倍”的宣传缺乏第三方复现。

文章拆解

决策模型这一品类由TypeSafe Jev在9月点燃,其核心思路是把Agent工作流中“从有限候选项里做判断”的任务从通用LLM中剥离出来。普通LLM处理工具选择时仍需逐Token生成工具名或JSON,再由程序解析,模型承担的是开放式文本生成,业务需要的却是候选空间内的概率判断。Gemini Decision 1沿用了这一逻辑,但依托Gemini原生多模态架构,把音频、视频和PDF纳入输入范围,并用共享输入加多问题并行的结构提升批量处理能力。谷歌此时入场,至少说明决策模型不是短期概念,而是值得巨头押注的独立调用层。

从产品设计看,Gemini Decision 1的输出体系分为Noul、Choice和Score三类,分别对应二元判断、多分类和有序评分。Score先给每个等级分配概率再加权计算,把离散分类扩展为连续评分,便于程序排序和阈值筛选,但加权会压缩概率分布信息,相同分数背后的风险等级可能完全不同。另一个需要开发者注意的边界是:Choice始终会在给定候选集内选出相对匹配项,即使所有选项都不符合输入,因此需要设置Other选项或额外范围检查。1000项问题也不等于可以塞入任意复杂工作流,存在前后依赖的任务仍需分次调用。

竞争格局上,谷歌公布的5项基准领先是真实存在的,校准误差0.0250对0.0494的差距也指向更可靠的置信度输出。但第三方统一任务套件给出了不同画面:综合分略低于Jev,延迟高出约一倍多,价格约为2.38倍。这说明Gemini的优势集中在多模态覆盖和批量决策,而非无差别的全面超越。Jev在When2Call工具调用上的反超尤其值得注意,工具选择是Agent落地的核心场景,谷歌在这一指标上并未建立优势。

对开发者和企业用户而言,决策模型正在把Agent工程设计从“依赖一个生成模型”推向“按任务分工调用不同模型”。通用LLM继续负责复杂推理、规划和内容生成,决策模型承担标准可提前定义的判断任务,程序则根据概率和置信度决定自动执行范围。这种分工对成本结构的影响不小:共享输入只计费一次,长文档批量审核和多维度内容评估的单次判断成本会被摊薄,但问题数量和指令长度会共同消耗256K上下文预算。

值得关注的变量包括:谷歌尚未披露与TypeSafe类似的训练方案,两者内部训练路线无法直接比较;公开的近乎平稳延迟测试仅覆盖1至100项问题,1000项规模下的实际表现尚待确认;Jev的多模态和长上下文功能发布时仍处于实验性配置,其正式能力释放后竞争格局可能变化。潜在风险在于,厂商自报基准与第三方评测存在差距,若企业按宣传数据做选型,可能在真实业务分布下遇到延迟和成本超预期的问题。决策模型赛道已从单品验证进入巨头竞争阶段,但“更强”能否兑现为“更优”,仍需真实业务环境的稳定表现来回答。

查看原文