精华速览

Grafana Labs 提出把站点可靠性工程中的评估、服务级别目标（SLO）和错误预算机制用于 AI 智能体，将幻觉、任务完成度、毒性和成本等行为转化为可衡量的指标并持续监控。其核心思路是先通过评估判断单次交互是否满足特定行为标准，再把结果转成可对照 SLO 衡量的 SLI，例如要求 30 天内 95% 的对话完成用户请求，剩余 5% 即为可容忍的错误预算。Grafana 认为质量是多维的，不应压缩成单一分数；错误预算的消耗还能暴露智能体质量缓慢下滑的漂移。该方法依赖底层评估的准确性，目标值设定也缺乏行业共识。

要点透视

  • Grafana Labs 在近期文章中提出，用评估、SLO 和错误预算衡量 AI 智能体的实际表现，覆盖幻觉、任务完成度、毒性和成本等行为维度。
  • 评估环节检查单次交互是否满足特定行为标准，例如回答是否有上下文依据、是否完成用户请求、是否含毒性内容、是否泄露个人信息或受提示词注入影响；可由另一个语言模型充当裁判，也可用正则表达式等确定性检查。
  • Grafana 反对用单一“智能体质量分数”概括表现，主张把各行为作为独立指标分别设定目标，避免重要故障被汇总分数掩盖。
  • 示例 SLO 为 30 天内 95% 的对话被判定完成用户请求，剩余 5% 构成错误预算；预算充足时可继续调整提示词、模型或智能体行为，预算耗尽时则应转向质量修复。
  • 该方法针对的是传统可观测性的局限：传统指标能反映响应速度、技术错误和 Token 消耗，却无法说明答案是否正确、是否有据或对用户是否有用。
  • Grafana 的智能体可观测性工作源于监控 Grafana Assistant 时遇到的问题，并区分离线评估（针对已知场景验证变更）与在线评估（基于真实生产交互评估行为）。
  • Grafana 承认关键限制在于测量本身：若充当裁判的 LLM 持续错误分类响应，错误预算会带来虚假的精确感；组织仍需代表性评估数据集、清晰的行为定义、确定性检查和人工审查。
  • 业界对任务完成度、回答有据性应设为 85%、95% 还是 99% 尚无共识；Anthropic 侧重正式评估实践并区分 pass@k 与 pass^k，OpenTelemetry 则在推进智能体遥测的标准化语义约定。

文章拆解

Grafana Labs 的提议切中了一个正在扩大的空白：AI 智能体上线后，传统可观测性只能回答“系统是否在线、响应是否够快”，却回答不了“回答是否可信”。当模型、提示词、检索方式或用户行为发生变化时，智能体可能仍在正常响应，答案却在悄然变得不那么有用。Grafana 借用 SRE 的成熟框架，把这种隐性退化转化为错误预算的消耗，使团队能在预算耗尽前决定是继续实验还是停止变更、转向修复。

其核心逻辑是把“行为”当作服务来治理：评估负责判断单次交互是否达标，可观测性提供证据，SLO 提供可接受的运行阈值。三者形成反馈闭环，比传统应用监控更接近持续质量度量。对用户而言，这意味着智能体的可靠性不再只由可用性定义，还包括答案是否有据、是否完成任务、是否安全；对工程团队而言，错误预算提供了一种共同语言，用于在质量与迭代速度之间做取舍。

值得关注的变量有三。第一是目标值设定：可用性目标有数十年运维经验可借鉴，但任务完成度或回答有据性该定在 85%、95% 还是 99%，业界远未形成共识，Grafana 建议先建立基线再逐步收紧。第二是评估器的可靠性：若裁判模型持续误判，SLO 会制造虚假的精确感，因此需要代表性数据集、确定性检查和人工复核模糊案例。第三是行业标准的分化：Anthropic 从评估实践切入，强调 pass^k 所代表的持续成功而非偶然成功；OpenTelemetry 从遥测语义约定切入，试图为跨框架、跨供应商的评估提供一致基础。这些路径尚待确认能否收敛为统一标准。

潜在风险在于，设计不当的评估可能奖励那些技术上满足标准、却未真正满足用户意图的输出，进而把治理机制变成形式主义。此外，SLO 只提供治理框架，不会让底层测量天然正确；组织若缺乏对“可接受行为”的清晰定义，错误预算反而可能掩盖问题。总体看，这一方法的价值不在于新增一项 AI 指标，而在于承认一种新现实：系统即使仍然在线，也可能变得越来越不可信。

查看原文