精华速览

Anthropic于11月13日公布自动化红队测试系统Anvil,基于Claude构建,可自主寻找模型安全防护漏洞,覆盖生物安全、网络安全和信息安全三个领域。测试显示,Anvil在生物安全24组测试中23组发现的越狱方案严重程度高于人工;网络安全24组任务全部突破,耗时0.5至3.5小时;信息安全领域仅用435次请求即找到首个实质性推理泄露漏洞,而人工专家需约10.22万次。Anthropic称部分漏洞发现速度从数周缩短至数小时。但测试也表明,Anvil攻击能力与底层Claude模型能力正相关,且关闭攻击模型自身安全防护是其取得突破的关键条件。

要点透视

  • 生物安全测试中,Anvil在24组问题与分类器组合中有23组发现的越狱方案严重程度高于人工测试人员,剩余1组持平;人工团队曾投入超7周、430小时,仅在8个问题中的1个找到高严重程度方案。
  • 网络安全测试覆盖6项Cybertasks任务和4个模型端点共24组组合,Anvil全部实现有效突破,首次找到漏洞耗时0.5至3.5小时;外部专家团队实际测试22组,仅报告11组突破,其中9组借助了未启用防护的辅助模型。
  • 信息安全测试中,Anvil发送435次请求即发现首个实质性推理信息泄露漏洞,人工专家需约10.22万次请求;Anvil总请求量约13.2万次,人工专家约204万次。
  • Anvil在124项Cybertasks任务中成功完成118项,旧版自动化红队系统仅完成75项;在难度最高的ExploitBench任务中,Anvil平均只需向目标模型发送约2800条消息即可完成单项任务。
  • 开启目标模型安全防护后,攻击成本最高增加28倍:关闭防护时多数任务需100至1000条消息,开启后增至1000至1万条。
  • Anvil的攻击能力与底层Claude模型能力评分正相关,模型越强,突破比例通常越高;若攻击模型自身启用安全防护,相关机制拦截了97%的1453个红队测试会话,其中85%在第一条请求时即被拦截。
  • 安全分类器升级后,Anvil突破所需请求量增加约3倍:Opus 5.5从2631次增至9003次,Fable 5.1从1254次增至3764次;真实流量中Fable 5.1的推理信息提取成功率从33.8%降至0%。

文章拆解

Anthropic此次公布的Anvil,核心逻辑是用AI智能体替代人工红队完成模型部署前的安全测试。传统模式下,人工测试人员面对不断强化的防护机制,投入产出比持续下降:生物安全漏洞赏金活动中,测试人员7周430小时仅在8个问题中的1个找到高严重程度方案;网络安全测试中,两支外部团队225小时、4.2万次请求仍未在指定模型上找到通用越狱方案。Anvil通过并行启动多个独立Claude任务、根据目标模型回复动态调整攻击路径,将部分漏洞发现周期从数周压缩至数小时,这在一定程度上回应了模型开发商“部署前数小时或数天内完成安全测试”的现实需求。

从行业影响看,Anvil的意义不止于效率提升。它展示了自动化红队系统可以复现并超越人工发现的攻击策略:在54类攻击策略聚类中,双方共同发现30类,Anvil在其中21类取得更高平均评分,还独立发现6类人工未覆盖的策略。这意味着安全测试的覆盖面和深度有望随模型能力同步扩展。同时,Anvil也被用于评估防护机制本身,帮助研究人员比较不同版本分类器的强弱,形成“攻击—评估—改进”的闭环。

但值得关注的变量同样明确。其一,Anvil的攻击能力与底层Claude模型能力正相关,模型越强,突破比例通常越高,这暗示自动化红队的效果并非独立于被测试生态之外。其二,Anvil的测试条件与真实外部攻击者存在差异:它使用关闭安全防护的内部模型,并能获取分类器的精确评分。测试显示,关闭攻击模型自身防护是取得有效突破的关键,若启用防护,97%的红队会话被拦截,85%在首条请求即被拦截。因此,Anvil展现的“攻击力”在开放环境中可能被显著削弱,尚待确认其在外部署条件下的实际表现。

潜在风险方面,自动化红队工具本身具有双用途属性。Anvil发现的越狱方案和攻击策略若被恶意方获取,可能降低攻击门槛;网友也担忧自动化测试暴露的漏洞可能反映训练数据层面的缺陷。Anthropic的应对思路是将Anvil纳入模型研发迭代流程,并强调人类研究人员在漏洞判断、风险评估和安全策略制定中仍不可替代。未来安全测试更可能走向AI自动化工具与人类协作的模式,而非单纯替代人工。

查看原文