Agent X-Ray
RuntimeNotesAbout
Notes/AI 前沿/大厂技术博客档案/第1章

WikiSkill:将智能体经验编译为持久化知识以实现技能进化

39 分钟 · 更新于 2026-09-01 · 原文

要点速览

  • WikiSkill 把智能体工作区拆为三层:不可变的原始执行轨迹(Raw 层)、跨迭代持久积累的知识库(Wiki 层)、可执行的技能(Skills 层);技能更新受验证门控约束、可被回滚,而 Wiki 永不回滚、持续复利式积累。
  • 每轮进化循环由四个组件构成:推理智能体执行 rollout → Wiki 维护者把轨迹提炼为模式页并维护进化日志 → 技能提议者以 ReAct 方式查阅 Wiki 与轨迹后提出原子化技能修改 → 门控与回滚机制按验证集表现决定接受或回退。
  • 在五个基准、五个模型上,WikiSkill 一致优于 EvoSkill、SkillOpt、Trace2Skill 等现有技能进化方法;且模型越大收益越大(Qwen 系列平均提升 +12.3 / +17.5 / +23.9 个点),带技能的 Qwen-3.5-9B(47.4%)可胜过无技能的 Qwen-3.6-27B(39.4%)。
  • 进化出的技能可跨模型、跨模型家族迁移,他模型进化的技能有时优于自进化技能——说明「发现技能」与「执行技能」是两种不同的能力。
  • 消融实验确认持久化 Wiki 是收益关键:给技能提议者开放 Wiki 访问使平均成绩从 48.7% 升至 63.7%;反之,让推理智能体在训练 rollout 阶段读 Wiki 反而会损害最终技能质量。

原文链接

WikiSkill:将智能体经验编译为持久化知识以实现技能进化

Liyan Tang、Cyrus Rashtchian、Chun-Sung Ferng、Andrew Tomkins、Da-Cheng Juan、Tu Vu(Google Research / Virginia Tech)

摘要

「智能体技能 (agent skills)」将专门知识与工作流打包为可复用的资源,从而扩展 AI 智能体的能力。近期工作已能从智能体经验中自动发现这类技能,使智能体得以在交互中渐进式地适应环境。然而,指导技能开发的洞见通常散落在优化历史之中,难以在迭代之间被系统性地复用。我们提出 WikiSkill,一个让智能体技能与「持久化知识库 (persistent knowledge base)」(wiki)协同进化的框架。从高层看,WikiSkill 将原始执行经验、积累的知识与可执行技能三者分离,并持续把经验固化进 wiki,供后续的技能更新在其上构建。在多样的基准与模型上,WikiSkill 一致优于最先进的「技能进化 (skill evolution)」方法,并在多数「模型-基准」组合中优于无技能基线。我们发现技能进化与模型规模扩展互为补充:更大的模型通常从进化出的技能中获益更多,而配备技能的小模型可以胜过大得多的无技能模型。我们还发现,进化出的技能能有效地跨模型、跨模型家族迁移,他模型进化出的技能有时优于自进化技能。最后,消融研究确认:wiki 中的持久化知识积累对有效的技能进化至关重要。这些结果表明,系统性地积累并提炼智能体经验,有助于打造可复用、可迁移的技能。

(图 1 图注)图 1:WikiSkill 一致优于无技能基线与现有技能进化方法,且其优势在更强的模型上愈发明显。图中报告了各模型分别使用无技能,以及 EvoSkill、SkillOpt、WikiSkill 进化出的技能时,在各评测基准上的平均准确率(详见表 1)。

1 引言

通用 AI 智能体在跨领域完成复杂任务方面的能力与日俱增 (Patwardhan et al., 2026; Jackson et al., 2025; Merrill et al., 2026; Phan et al., 2026)。然而,可靠地完成现实任务往往需要领域专门知识(例如程序性知识与工作流)。「智能体技能」(Zhang et al., 2025; Li et al., 2026; Chen et al., 2026a; Liu et al., 2026) 提供了一种轻量、开放的格式,无需更新模型参数即可承载这类专门知识。技能的核心是把指令、脚本及其他资源打包成一个可复用的、基于文件系统的模块(即一个组织化的目录)(Zhang et al., 2025; Li et al., 2026; Anthropic, 2026; Xia et al., 2026b)。这种设计使专门知识在兼容技能机制的各类智能体之间保持一致、可审计、可复用。它还支持「渐进式披露 (progressive disclosure)」(Jiang et al., 2026):智能体在任一时刻只加载相关内容,从而节省上下文空间。更广义地说,技能提供了一种独立于模型参数的知识积累机制。

然而,开发有效的技能仍然困难。大多数智能体技能靠人工编写,这要求作者预判智能体将会需要哪些程序性知识与工作流 (Li et al., 2026; Liang et al., 2026; Xu and Yan, 2026)。这一挑战催生了近期的迭代式技能开发工作:在训练任务上执行智能体、分析成功与失败的轨迹,并基于由此获得的经验精炼技能 (Yuksekgonul et al., 2025; Agrawal et al., 2026; Alzubi et al., 2026; Ni et al., 2026; Ouyang et al., 2026; Yang et al., 2026)。

一个关键的设计问题是:在技能进化的全过程中,如何保存并组织智能体学到的东西。已有工作以不同方式回答这一问题:EvoSkill (Alzubi et al., 2026) 维护先前提案及其评估结果的累积历史;Trace2Skill (Ni et al., 2026) 从执行轨迹中提取并整合经验教训,融入技能更新;SkillOpt (Yang et al., 2026) 利用「被拒编辑」反馈与逐 epoch 的元指导。但这些方法都没有把「已学到的东西」维护为一个独立的、持续演化的知识表示。受 Karpathy (2026) 关于 LLM Wiki 的观点启发——他主张把经验编译为持久的、可复利的知识——我们提出问题:能否将智能体经验同样编译为持久化知识,以支撑长期的技能进化? 我们提出 WikiSkill,在原始经验与可执行程序(即技能)之间加入一个结构化的知识层。这一层使技能开发得以在跨迭代不断被验证、不断被整合的知识之上构建,而不是依赖散落在各种技能进化产物中的零散知识。

WikiSkill 把智能体工作区组织为三层:存放不可变执行轨迹的「原始层 (Raw Layer)」、维护结构化知识的「Wiki 层 (Wiki Layer)」、容纳持续演化的程序性知识的「技能层 (Skill Layer)」(见图 2)。每次迭代包含四个组件:使用当前技能执行 rollout 的「推理智能体 (Inference Agent)」、把轨迹固化进 wiki 的「Wiki 维护者 (Wiki Maintainer)」、利用 wiki 与轨迹提出技能更新的「技能提议者 (Skill Proposer)」,以及只保留能改善验证集表现的更新的「门控与回滚 (gating and rollback)」机制。技能更新可以被回滚,但 wiki 是持久的,未来的更新可以在积累的知识上继续构建。从高层看,这些组件构成一个持续循环:经验被固化为持久化知识,而持久化知识支撑技能进化。

我们在五个基准上评估 WikiSkill,涵盖数学推理(LiveMathematicianBench (He et al., 2026))、网络搜索(SealQA (Pham et al., 2026))、电子表格操作(SpreadSheetBench (Ma et al., 2024))、长上下文文档问答(OfficeQA (Singhvi et al., 2025))与交互式具身任务(ALFWorld (Shridhar et al., 2021)),使用来自 Qwen (Qwen Team, 2026a; Qwen Team, 2026b)、Gemma (Gemma Team, 2026) 与 Gemini (Google DeepMind, 2026) 家族的五个模型。我们发现 WikiSkill 优于现有技能进化方法,并在多数设置中优于无技能基线。有趣的是,技能进化与模型规模扩展互为补充。在 Qwen 家族内部,WikiSkill 对 4B、9B、27B 模型的平均性能分别提升 12.3%、17.5% 与 23.9%,增益随模型规模递增。与此同时,进化出的技能可以弥补相当大的模型规模差距:带 WikiSkill 的 Qwen-3.5-9B 胜过无技能的 Qwen-3.6-27B(47.4% vs. 39.4%)。我们进一步发现,进化出的技能能有效跨模型家族迁移,并可能优于自进化技能。例如在 ALFWorld 上,Qwen-3.5-9B 使用由 Qwen-3.6-27B 进化出的技能达到 70.2%,而使用自身进化的技能只有 63.4%。这些结果表明,技能的发现与技能的执行是两种不同的能力。最后,我们的分析表明持久化 wiki 对上述增益至关重要,支持了「跨迭代积累并提炼知识能改善技能进化」这一假设。

综上,我们的主要贡献是:

  • 我们提出 WikiSkill:一个让智能体技能与持久化知识库协同进化的框架,后者持续组织并提炼来自智能体经验的知识。
  • 我们在五个基准、五个模型上证明 WikiSkill 一致优于现有技能进化方法,并以消融实验确认了持久化知识积累的重要性。
  • 我们系统研究了进化技能与模型能力之间的相互作用,表明技能进化与模型规模扩展互补,且进化技能可有效跨模型迁移,有时甚至优于自进化技能。

总而言之,我们希望这项工作能激发更多关于「智能体如何从经验中积累、组织与复用知识」的基础研究。

2 问题设定

我们形式化 LLM 智能体的迭代式技能进化任务。设 D={(xi,yi)}i=1N\mathcal{D}=\{(x_{i},y_{i})\}_{i=1}^{N} 为任务数据集,其中 xix_{i} 表示一个任务实例,yiy_{i} 表示其真值答案。我们把 D\mathcal{D} 划分为三个互不相交的子集:训练任务 Dtrain\mathcal{D}_{\text{train}}、验证任务 Dval\mathcal{D}_{\text{val}} 与测试任务 Dtest\mathcal{D}_{\text{test}}

智能体 π\pi 是一个基于 LLM 的系统,配备工具集 U\mathcal{U}(例如 bash shell、搜索 API 或文件读取器)与活跃技能集 S={s1,s2,,sM}S=\{s_{1},s_{2},\dots,s_{M}\}。技能是一个模块化的、基于文件系统的目录,将领域程序性知识打包为指令、脚本及其他资源 (Zhang et al., 2025; Li et al., 2026; Chen et al., 2026a; Liu et al., 2026)。具体而言,每个技能包含一个 SKILL.md 文件,其 frontmatter 元数据(唯一的 name 与简洁的 description)之后是完整的程序性指令与适用条件。技能集 SS 初始为空集(\emptyset),并针对每个数据集通过进化过程逐步构建。

执行任务 xix_{i} 时,智能体接收任务上下文 xix_{i} 与可用技能 SS。智能体使用工具与技能同环境进行多步交互,生成一条「执行轨迹 (execution trajectory)」τiπ(xi;S)\tau_{i}\sim\pi(x_{i};S)。轨迹 τi=(o1,a1,o2,a2,,oT,aT)\tau_{i}=(o_{1},a_{1},o_{2},a_{2},\dots,o_{T},a_{T}) 由观察 oto_{t} 与动作 ata_{t} 构成(动作可包含对 U\mathcal{U} 中工具的调用)。最后一个动作 aTa_{T} 给出预测答案 y^i\hat{y}_{i}。预测的正确性由领域特定的评分函数 f(y^i,yi)[0,1]f(\hat{y}_{i},y_{i})\in[0,1] 评估。对任一任务子集 DsplitD\mathcal{D}_{\text{split}}\subset\mathcal{D},将智能体 π(;S)\pi(\cdot;S) 在其全部任务实例上 rollout,得到对应的执行轨迹集 Tsplit={τiπ(xi;S)}(xi,yi)Dsplit\mathcal{T}_{\text{split}}=\{\tau_{i}\sim\pi(x_{i};S)\}_{(x_{i},y_{i})\in\mathcal{D}_{\text{split}}}。该子集上的表现 R(Tsplit)\mathcal{R}(\mathcal{T}_{\text{split}}) 是全部任务实例 (xi,yi)Dsplit(x_{i},y_{i})\in\mathcal{D}_{\text{split}} 的平均得分。

在 WikiSkill 中,第 kk 次迭代的系统状态由二元组 (Sk,Wk)(S_{k},W_{k}) 表示,其中 Sk={s1,,sM}S_{k}=\{s_{1},\dots,s_{M}\} 为活跃的程序性技能集,WkW_{k} 为持久化知识库(Wiki)。候选技能更新受验证门控约束、得分退化时会被回滚,而知识库 WkW_{k} 则跨迭代持久存在并复利式积累。从 (S0,W0)=(,)(S_{0},W_{0})=(\emptyset,\emptyset) 出发,WikiSkill 在迭代 k{1,,K}k\in\{1,\dots,K\} 中协同演化联合状态 (Sk,Wk)(S_{k},W_{k}),利用训练 rollout Ttrain,k\mathcal{T}_{\text{train},k}、模式固化以及基于 Tval,k\mathcal{T}_{\text{val},k} 的验证门控,最大化在未见任务 Dtest\mathcal{D}_{\text{test}} 上的最终测试表现 R(Ttest)\mathcal{R}(\mathcal{T}_{\text{test}})

3 方法

(图 2 图注)图 2:WikiSkill 框架总览。智能体工作区被组织为三层:不可变的执行轨迹(Raw 层)、跨迭代复利积累的持久化知识库(Wiki 层)、活跃的程序性指令(Skills 层)。在每轮进化循环中,推理智能体执行 rollout(注入活跃技能,但禁止访问 Wiki),Wiki 维护者把轨迹固化进 Wiki,技能提议者(采用 ReAct 机制)提出更新建议,而 Wiki 在所有迭代之间始终保留。

我们提出 WikiSkill,一个让智能体技能与持久化知识库(wiki)协同进化的框架。它建立在三层知识架构之上(3.1 节),执行一个编排好的进化循环:智能体执行 rollout,Wiki 维护者固化轨迹并更新 wiki,技能提议者提出技能更新,门控机制筛选变更(3.2 节)。

3.1 三层知识架构

WikiSkill 工作区由三个不同的层组成,如图 2 所示,说明如下。

原始层(raw/)

该层存放每次迭代从训练样本收集到的原始执行轨迹 τiTtrain,k\tau_{i}\in\mathcal{T}_{\text{train},k}。这些轨迹完整记录了智能体的逐步交互,包括推理、工具调用、工具调用输出与最终答案。在我们的设置中,Wiki 维护者与技能提议者两个智能体可以访问这些原始轨迹以分析智能体行为。为保留原始历史,该层是不可变的。

Wiki 层(wiki/)

该层把原始轨迹编译为结构化的、复利积累的知识,并在整个技能进化过程中持续维护。它包含一个模式目录(patterns/),由若干独立的 markdown 文件构成,每个文件记录一种具体的失败模式或成功策略,并附上可执行的应对办法。至关重要的是,该层通过进化日志(logs.md,由 Wiki 维护者更新)与技能影响追踪器(skill-impact.md,由外层编排框架在验证门控后以程序方式更新)提供跨优化迭代的长期历史感知。这些记录使 Wiki 维护者与技能提议者能够:(1) 查看完整的技能接受历史,避免再次提出已被拒绝的干预;(2) 追踪先前迭代提出了什么、这些提案是否成功;(3) 识别哪些错误在迭代之间反复出现。wiki 在迭代之间不会重置,而是在整个进化过程中持续积累并编译知识。

技能层(skills/)

该层包含活跃的进化技能集 SS,编码推理智能体可读取的程序性知识。WikiSkill 中每个技能目录包含两个文件:SKILL.md,承载技能的完整内容;PURPOSE.md,把该技能回溯映射到促成其创建或修改的 Wiki 模式。技能层与 Wiki 层交互的详细示例见图 3,并在 5.3 节的案例研究中说明。

3.2 进化智能体与 Wiki 编排

WikiSkill 循环由四个组件构成。在每次迭代中,推理智能体(3.2.1 节)使用 skills/ 中的活跃技能执行任务,在 raw/ 中产出不可变的执行轨迹。在训练 rollout 期间,推理智能体被禁止访问 Wiki 层——我们的消融研究(5.1 节)表明,允许其在训练期间访问 wiki 会对技能开发产生负面影响。接着,Wiki 维护者(3.2.2 节)结合现有 wiki/ 层分析这些原始轨迹,诊断失败、提炼成功策略,更新持久的模式目录与进化日志。随后,技能提议者(3.2.3 节)审阅更新后的 wiki 并读取最新一轮的执行轨迹,在 skills/ 中生成或修改候选技能。最后,门控与回滚机制(3.2.4 节)在验证子集上评估候选技能,接受成功的修改,或在变更导致性能退化时回滚技能集。完整的进化算法见附录 A 的算法 1。

3.2.1 推理智能体的技能供给

在第 kk 次迭代,推理智能体 π\pi 以活跃技能集 Sk1S_{k-1} 为条件,使用环境工具 U\mathcal{U} 执行多轮轨迹:

τiπ(xi;Sk1)\tau_{i}\sim\pi(x_{i};S_{k-1})

在 WikiSkill 中,活跃技能 Sk1S_{k-1} 的完整内容被直接注入推理智能体的系统提示词。沿用先前工作 (Yang et al., 2026; Ni et al., 2026) 的做法,这种全量注入设定确保程序性指令在任务执行期间即时可用,从而在本研究中排除了技能触发或检索失败这一混杂变量。

3.2.2 Wiki 维护者:模式固化

在第 kk 次迭代,获得训练子集 Dtrain\mathcal{D}_{\text{train}} 上的 rollout 轨迹 Ttrain,k\mathcal{T}_{\text{train},k} 后,我们抽取成功与失败执行轨迹的一个子集 Tsample,kTtrain,k\mathcal{T}_{\text{sample},k}\subset\mathcal{T}_{\text{train},k}(抽样预算与分层标准见附录 C),以规避上下文窗口限制。Wiki 维护者智能体 MWM\mathcal{M}_{\text{WM}} 把这些观察固化进持久 wiki Wk1W_{k-1},产出中间 wiki 状态 WkW^{\prime}_{k}

WkMWM(Wk1,Tsample,k)W^{\prime}_{k}\leftarrow\mathcal{M}_{\text{WM}}(W_{k-1},\mathcal{T}_{\text{sample},k})

Wiki 维护者接收完整的 wiki 上下文 Wk1W_{k-1} 与抽样轨迹 Tsample,k\mathcal{T}_{\text{sample},k}。它对失败任务执行「根因分析 (root cause analysis)」,并从通过的任务中提炼成功策略。每次迭代中,Wiki 维护者可以在 wiki/patterns/ 下创建新模式页,也可以用新证据或更精炼的解法更新既有模式页。对模式页的更新采用增量的、基于补丁的编辑(如追加、替换或插入文本片段)。每当模式被修改,Wiki 维护者会同步修订 index.md 目录以反映当前状态,并把本轮迭代发现的摘要追加进进化日志 logs.md。每轮迭代创建或更新的模式数量没有硬性上限;Wiki 维护者根据轨迹与当前 wiki 状态自行决定哪些更新是必要的。

3.2.3 以 Wiki 为依据的技能提议者

提议者 MP\mathcal{M}_{\text{P}} 是一个负责技能发现与精炼的 LLM 智能体。在第 kk 次迭代,提议者以多轮 ReAct 风格 (Yao et al., 2023) 运行。为避免分析冗长执行历史时耗尽上下文窗口,提议者并不会收到一组固定的预抽样轨迹;它初始拿到的是 wiki 索引 I(Wk)I(W^{\prime}_{k})、历史技能影响追踪器(skill-impact.md),以及全部训练任务结果的简要汇总(通过/失败状态、预测与真值答案)。作为一个自主智能体,它主动推理并使用环境工具(read_file),按需选择并检视特定的模式页与原始执行轨迹 τiTtrain,k\tau_{i}\in\mathcal{T}_{\text{train},k},在诊断根因之后合成提案 PkP_{k}

PkMP(Wk,Sk1,Ttrain,k)P_{k}\leftarrow\mathcal{M}_{\text{P}}(W^{\prime}_{k},S_{k-1},\mathcal{T}_{\text{train},k})

在每次迭代中,技能提议者产出一个原子化的提案 PkP_{k},只针对单个技能:要么创建一个新技能,要么对目标既有技能施加增量的、基于补丁的编辑。

3.2.4 门控与回滚

提案 PkP_{k} 生成后被应用到工作区,得到候选技能集 Sk=Apply(Sk1,Pk)S^{\prime}_{k}=\text{Apply}(S_{k-1},P_{k})。系统在验证子集 Dval\mathcal{D}_{\text{val}} 上评估 SkS^{\prime}_{k},得到验证轨迹 Tval,k\mathcal{T}_{\text{val},k} 与得分 R(Tval,k)\mathcal{R}(\mathcal{T}_{\text{val},k})。接受决策由下式给出:

Sk{Skif R(Tval,k)>RbestSk1otherwiseS_{k}\leftarrow\begin{cases}S^{\prime}_{k}&\text{if }\mathcal{R}(\mathcal{T}_{\text{val},k})>\mathcal{R}_{\text{best}}\\ S_{k-1}&\text{otherwise}\end{cases}

若被接受,候选技能被保留为新的活跃技能集 SkS_{k},性能阈值 Rbest\mathcal{R}_{\text{best}} 更新为 R(Tval,k)\mathcal{R}(\mathcal{T}_{\text{val},k})。在进化循环开始前,Rbest\mathcal{R}_{\text{best}} 初始化为以空技能集 S0S_{0}Dval\mathcal{D}_{\text{val}} 上评估得到的基线验证分数 R(Tval,0)\mathcal{R}(\mathcal{T}_{\text{val},0})。若验证分数在进化过程中的任一时刻达到最大值(Rbest=1.0\mathcal{R}_{\text{best}}=1.0),进化循环提前终止。若被拒绝,系统丢弃候选技能修改,将技能集回退到最近一次成功的配置 Sk1S_{k-1}。值得注意的是,无论接受与否,wiki WkW_{k} 都不会被回滚;积累的模式与日志在所有迭代之间持续保留,确保长期知识不丢失。每次验证评估之后,外层编排框架都会以程序方式向 wiki/skill-impact.md 追加一条记录,即 WkUpdate(Wk,Pk,R(Tval,k),ak)W_{k}\leftarrow\text{Update}(W^{\prime}_{k},P_{k},\mathcal{R}(\mathcal{T}_{\text{val},k}),a_{k}),内容包括提案元数据、目标技能名、修改的 unified diff、验证分数 R(Tval,k)\mathcal{R}(\mathcal{T}_{\text{val},k}),以及最终接受结果 ak{Accepted,Rejected}a_{k}\in\{\text{Accepted},\text{Rejected}\}。至此完成第 kk 次迭代的 wiki 状态迁移 Wk1WkW_{k-1}\to W_{k},为技能提议者在后续迭代中提供一份客观的、有真值依据的历史干预审计记录,以避免重复失败的修改。

4 实验与结果

4.1 实验设置

数据集

我们在跨越多样领域的五个基准上进行评估:数学推理(LiveMathematicianBench,简称 LiveMath (He et al., 2026))、网络搜索(SealQA (Pham et al., 2026))、电子表格操作(SpreadsheetBench,简称 SpreadSheet (Ma et al., 2024))、长上下文文档问答(OfficeQA (Singhvi et al., 2025))与交互式具身任务(ALFWorld (Shridhar et al., 2021))。数据集细节与统计信息见附录 B。

基线方法

我们将 WikiSkill 与三个有代表性的技能进化基线进行比较:Trace2Skill (Ni et al., 2026)、EvoSkill (Alzubi et al., 2026) 与 SkillOpt (Yang et al., 2026)。它们共享同一个总体循环:rollout 智能体、分析执行轨迹、提出技能修改、以验证集门控变更。我们还评估各模型不带技能的表现作为无技能基线。对这些框架的详细描述以及优化器 API 调用复杂度分析见附录 D。我们把比较聚焦于专门的技能进化框架,而非通用的自动提示词优化器(如 GEPA (Agrawal et al., 2026))——先前工作已表明专门的技能进化流水线一致优于通用提示词优化方法 (Yang et al., 2026)。

模型

我们同时使用闭源与开放权重模型来评估 WikiSkill 与各基线。闭源模型使用 Gemini-3.5-Flash (Google DeepMind, 2026)。开放权重模型评估 Qwen-3.5-4B/9B-Instruct (Qwen Team, 2026a)、Qwen-3.6-27B (Qwen Team, 2026b) 与 Gemma-4-31B-It (Gemma Team, 2026),均通过 vLLM 框架 (Kwon et al., 2023) 部署。

4.2 主要结果

模型方法LiveMathSealQASpreadSheetOfficeQAALFWorld平均
Qwen-3.5-4BNo skill29.132.514.630.224.426.2
Qwen-3.5-4BTrace2Skill31.537.617.531.042.832.1
Qwen-3.5-4BEvoSkill41.737.318.629.541.533.7
Qwen-3.5-4BSkillOpt48.733.314.034.545.335.2
Qwen-3.5-4BWikiSkill49.739.421.128.553.738.5
Qwen-3.5-9BNo skill28.226.324.335.934.729.9
Qwen-3.5-9BTrace2Skill33.136.926.538.448.836.7
Qwen-3.5-9BEvoSkill58.134.535.434.948.542.3
Qwen-3.5-9BSkillOpt48.729.429.038.055.740.2
Qwen-3.5-9BWikiSkill56.343.133.640.563.447.4
Qwen-3.6-27BNo skill33.927.540.842.152.839.4
Qwen-3.6-27BTrace2Skill36.337.353.354.355.547.3
Qwen-3.6-27BEvoSkill57.332.959.552.564.253.3
Qwen-3.6-27BSkillOpt51.934.553.254.859.250.7
Qwen-3.6-27BWikiSkill61.941.681.753.777.663.3
Gemma-4-31BNo skill33.930.648.343.350.441.3
Gemma-4-31BTrace2Skill32.337.758.543.257.245.8
Gemma-4-31BEvoSkill29.838.456.439.952.643.4
Gemma-4-31BSkillOpt40.136.163.144.461.949.1
Gemma-4-31BWikiSkill56.741.268.044.264.454.9
Gemini-3.5-FlashNo skill33.029.450.548.685.949.5
Gemini-3.5-FlashTrace2Skill41.944.356.050.085.955.6
Gemini-3.5-FlashEvoSkill44.643.655.451.285.956.1
Gemini-3.5-FlashSkillOpt49.728.266.149.885.955.9
Gemini-3.5-FlashWikiSkill72.644.776.660.785.968.1

表 1:各推理模型与测试集上的方法比较。每个模型区块评估该推理模型不带技能(No skill)以及带不同技能进化方法所开发技能的表现。为保证公平比较,所有技能进化方法均从空技能集出发,进化出的技能在推理时注入推理智能体的提示词。所有分数为完整进化过程三次独立运行的平均测试表现。本文方法(WikiSkill)以加粗标出(原文以高亮标注 WikiSkill 行、以加粗标注各数据集最优结果,多个加粗表示在 1,000 次配对 bootstrap 检验下与最优无显著差异(p<0.05p<0.05);该格式细节未在本表中保留)。

我们跨模型、跨任务评估 WikiSkill,并研究进化出的技能能否跨模型迁移。表 1 展示了跨模型、跨任务的主要技能进化结果,包括技能进化收益随模型规模的变化;表 2 展示了跨模型技能迁移结果。下面详细分析。

为考虑波动性,每种方法的完整进化过程都独立重复三次,所有报告分数为三个进化技能集的平均测试表现。性能差异的统计显著性用 p<0.05p<0.05 的配对 bootstrap 检验评估(附录 C)。注意,对 Gemini-3.5-Flash 在 ALFWorld 上的结果:所有进化方法的表现与无技能基线相同(85.9%),原因是 Gemini-3.5-Flash 在技能进化开始前就已在验证子集(Dval\mathcal{D}_{\text{val}})上达到 100% 分数。这也解释了为什么在跨模型迁移评估(表 2)中,Gemini-3.5-Flash 作为 ALFWorld 的技能来源被标记为「-」。

4.2.1 跨模型与跨任务的技能进化

WikiSkill 在各模型与数据集上带来一致的提升

如表 1 所示,WikiSkill 在全部五个模型上取得最高的平均表现。相对每个模型上最强的对比技能进化方法,WikiSkill 将 Qwen-3.5-4B、Qwen-3.5-9B、Qwen-3.6-27B、Gemma-4-31B 与 Gemini-3.5-Flash 的平均表现分别提升 3.3、5.1、10.0、5.8 与 12.0 个点。这些提升在各设置中是一致的:WikiSkill 在多数「模型-数据集」组合上优于无技能基线,并且在五个数据集的平均表现上对所有模型都追平或超过最强对比方法。提升覆盖多样领域,且幅度可以很大。例如,WikiSkill 把 Gemini-3.5-Flash 在 LiveMath 上从 33.0% 提升到 72.6%、在 SpreadSheet 上从 50.5% 提升到 76.6%,把 Qwen-3.6-27B 在 ALFWorld 上从 52.8% 提升到 77.6%。相比之下,现有技能进化方法的表现不够稳定:EvoSkill 在 LiveMath 上大幅提升 Qwen-9B(28.2% \rightarrow 58.1%),却在同一基准上拖累 Gemma-4-31B(33.9% \rightarrow 29.8%);SkillOpt 则在 SealQA 上拖累 Gemini-3.5-Flash(29.4% \rightarrow 28.2%)。这些结果表明 WikiSkill 在各设置中带来既更强又更可靠的提升。

技能进化的收益随模型能力递增,与模型规模扩展互补

在 Qwen 家族内部,WikiSkill 带来的平均提升随模型规模递增:Qwen-3.5-4B 为 +12.3 个点,Qwen-3.5-9B 为 +17.5 个点,Qwen-3.6-27B 为 +23.9 个点。这一趋势在 SpreadSheet 上尤为突出:WikiSkill 对三个模型分别提升 +6.5、+9.3 与 +40.9 个点,说明技能进化的收益可以随模型规模大幅增长。与此同时,进化技能又能弥补相当大的模型规模差距:带 WikiSkill 的 Qwen-3.5-9B 平均准确率达到 47.4%,胜过无技能的 Qwen-3.6-27B(39.4%);带 WikiSkill 的 Qwen-3.5-4B 也达到 38.5%。结果表明,模型能力与进化出的程序性知识是互补的性能来源:更强的模型能开发并执行更有效的技能、从技能进化中获得更大价值,而有效的技能可以让小模型胜过大得多的无技能模型。

技能进化的收益在数据集之间差异也很大

结果显示,某些数据集比其他数据集更适合技能进化。对 Qwen-3.6-27B,WikiSkill 在 OfficeQA 上提升 11.6 个点、在 SealQA 上提升 14.1 个点,而在 ALFWorld、LiveMath 与 SpreadSheet 上分别提升 24.8、28.0 与 40.9 个点。类似差异也出现在其他模型上。LiveMath 一贯从技能进化中受益,五个模型上的提升在 20.6 到 39.6 个点之间;ALFWorld 在 WikiSkill 实际进化出技能的四个模型上(因提前终止而排除 Gemini-3.5-Flash)提升 14.0 到 29.3 个点。相比之下,OfficeQA 因其长上下文文档检索需求而构成独特挑战:较大的模型能有效利用进化出的搜索工作流在冗长文档中导航(Qwen-3.6-27B +11.6 个点、Gemini-3.5-Flash +12.1 个点),而 Qwen-3.5-4B 难以在长上下文中执行这类多步搜索工作流,退回到默认的通读行为,反而导致轻微退化。

模型技能来源LiveMathSealQASpreadSheetOfficeQAALFWorld
Qwen-3.5-4BNone29.132.514.630.224.4
Qwen-3.5-4BQwen-3.5-4B(自进化)49.739.421.128.553.7
Qwen-3.5-4BQwen-3.6-27B59.738.833.025.457.0
Qwen-3.5-4BGemini-3.5-Flash62.637.323.032.2-
Qwen-3.5-9BNone28.226.324.335.934.7
Qwen-3.5-9BQwen-3.5-4B61.040.425.040.369.2
Qwen-3.5-9BQwen-3.5-9B(自进化)56.343.133.640.563.4
Qwen-3.5-9BQwen-3.6-27B59.140.450.539.970.2
Qwen-3.5-9BGemini-3.5-Flash53.039.648.840.5-
Qwen-3.6-27BNone33.927.540.842.152.8
Qwen-3.6-27BQwen-3.5-4B62.641.640.652.972.1
Qwen-3.6-27BQwen-3.6-27B(自进化)61.941.681.753.777.6
Qwen-3.6-27BGemini-3.5-Flash65.151.076.052.5-
Gemma-4-31BNone33.930.648.343.350.4
Gemma-4-31BQwen-3.5-4B73.138.837.142.166.9
Gemma-4-31BQwen-3.6-27B73.737.772.044.266.9
Gemma-4-31BGemma-4-31B(自进化)56.741.268.044.264.4
Gemma-4-31BGemini-3.5-Flash61.837.768.843.4-
Gemini-3.5-FlashNone33.029.450.548.685.9
Gemini-3.5-FlashQwen-3.5-4B67.540.018.148.587.3
Gemini-3.5-FlashQwen-3.6-27B73.943.563.447.786.8
Gemini-3.5-FlashGemini-3.5-Flash(自进化)72.644.776.660.7-

表 2:跨模型技能迁移结果。我们评估各推理模型使用无技能(None)以及以 Qwen-3.5-4B、Qwen-3.6-27B、Gemini-3.5-Flash 为来源模型、由 WikiSkill 进化出的技能。技能在推理时注入推理智能体的系统提示词。加粗行为自进化技能(推理模型与技能来源相同,原文以高亮标注)。「-」表示来源模型在技能进化前即达到 100% 验证表现,因此未进化出技能。

4.2.2 WikiSkill 的跨模型技能迁移

进化出的技能能有效跨模型迁移,且迁移技能可能优于自进化技能

表 2 评估了以不同来源模型开发的 WikiSkill 技能在各推理模型之间的迁移效果。迁移技能经常同时胜过无技能基线与自进化技能。例如,Qwen-3.6-27B 的技能把 Qwen-3.5-9B 在 SpreadSheet 上提升到 50.5%,而其无技能为 24.3%、自进化技能为 33.6%;又把 Gemma-4-31B 在 LiveMath 上提升到 73.7%,对比分别为 33.9% 与 56.7%。值得注意的是,从小模型向大模型的迁移也同样有效:Qwen-3.5-4B 的技能把 Gemma-4-31B 在 LiveMath 上提升到 73.1%、在 ALFWorld 上提升到 66.9%。结果表明,更强的来源模型并不必然产出更好的技能,而由一个模型的经验开发出的程序性知识可以跨模型规模与模型家族迁移。

进化技能的可迁移性取决于其捕获的是通用流程还是模型特定的变通做法

表 2 的结果表明,WikiSkill 既能产出可跨模型迁移的通用程序性知识,也可能产出引发负迁移的模型特定策略。LiveMath 技能的跨模型迁移效果特别好:Qwen-3.5-4B 与 Qwen-3.6-27B 的技能分别把 Gemini-3.5-Flash 从 33.0% 提升到 67.5% 与 73.9%。相反,SpreadSheet 上存在强烈的「来源-目标」交互效应:Qwen-3.5-4B 的技能把 Gemini-3.5-Flash 从 50.5% 拉低到 18.1%,而 Qwen-3.6-27B 的技能却把它提升到 63.4%。我们的错误分析找出了这种负迁移背后的两个因素。第一,Qwen-3.5-4B 的技能编码了低层变通做法(如单行 Python 命令与字符串转换规则),这帮助小模型规避执行失败,却限制了 Gemini-3.5-Flash 这类更强模型使用完整的端到端脚本。第二,碎片化的诊断流程引入了冗余工具调用,可能在任务完成前就耗尽 Gemini-3.5-Flash 的交互预算。

迁移技能的效用还取决于推理模型执行技能的能力

我们再来看不同推理模型如何使用同一来源模型开发的技能。在 Qwen 家族内部,更强的模型能从同样的程序性知识中获得更大价值。例如,Qwen-3.6-27B 的 SpreadSheet 技能分别把 Qwen-3.5-4B、Qwen-3.5-9B 与 Qwen-3.6-27B 相对各自无技能基线提升 18.4%、26.2% 与 40.9%。OfficeQA 则提供了一个「技能对他人比对自己更有用」的案例:Qwen-3.5-4B 的技能把自身表现从 30.2% 降到 28.5%,却把 Qwen-3.6-27B 从 42.1% 提升到 52.9%。轨迹分析表明,在长上下文场景中,小模型容易被冗长的文档上下文干扰,无法遵循细致的多步搜索指令,退回到默认的通读文档行为;而更强的模型能在长上下文中更可靠地执行技能所指定的结构化导航流程。综合来看,这些结果区分了自进化通常混为一谈的两种能力:从经验中发现有用的程序性知识,与在推理时有效执行这些知识。

5 分析与讨论

5.1 持久化知识在技能进化中的作用

为理解持久化知识在技能进化中的贡献点,我们对进化过程中两个可使用 wiki 的组件分别消融其 wiki 访问权限(表 3)。具体地,我们用 Gemini-3.5-Flash 独立地改变训练 rollout 阶段推理智能体、以及技能开发阶段技能提议者的 wiki 访问权限,得到四种配置。当技能提议者没有 wiki 访问权限时,我们同时移除 Wiki 维护者,即消除跨迭代的持久化知识积累。WikiSkill 的默认配置是:技能提议者可访问 wiki,推理智能体不可访问。

推理智能体访问 Wiki技能提议者访问 WikiLiveMathSealQASpreadSheetOfficeQA平均
(No skill 基线)33.029.450.548.640.4
43.842.044.451.045.3
51.338.449.955.248.7
64.842.880.255.660.9
是(默认配置)72.644.776.660.763.7

表 3:使用 Gemini-3.5-Flash 对 WikiSkill 的消融研究。我们在四种配置下评估各基准表现,配置区别在于技能进化期间推理智能体与技能提议者是否拥有 wiki 访问权限。当技能提议者没有 wiki 访问权限时,同时移除 Wiki 维护者,消除跨迭代的持久化知识积累。末行为 WikiSkill 默认配置。(注:原表以勾/叉标记访问权限,该标记在归档 HTML 中丢失,此处「是/否」按正文描述推断复原。)

持久化 wiki 知识显著改善技能进化

如表 3 所示,在推理智能体不可访问 wiki 的前提下,给技能提议者开放持久 wiki 访问将平均基准表现从 48.7% 提升到 63.7%(+15.0%),其中 LiveMath(51.3% 到 72.6%)与 SpreadsheetBench(49.9% 到 76.6%)的提升尤为可观。缺少跨迭代积累的持久化知识时,技能提议者难以解决错综复杂的失败模式。

让推理智能体在进化期间访问 wiki 会降低最终技能质量

在技能提议者可访问持久 wiki 的前提下,再让推理智能体在训练 rollout 期间访问 wiki,会把平均基准表现从 63.7% 降到 60.9%,其中 LiveMath 从 72.6% 大幅跌至 64.8%。我们推测:当推理智能体在训练 rollout 期间同时能读技能与 wiki 时,部分任务求解知识可能直接取自 wiki 而非技能,这会让所得轨迹对技能开发的参考价值下降。

5.2 定性分析:技能与 Wiki 的动态

为更好地理解 WikiSkill 如何跨模型、跨数据集地演化知识与技能,我们分析进化过程中积累的 wiki 模式与产出的技能(表 4),以及成功技能更新在各迭代中被接受的时点(附录表 5)。

WikiSkill 持续积累 wiki 模式,同时产出精炼的技能

表 4 汇总了各模型与基准上技能与 wiki 模式的创建与编辑情况及其平均长度。跨模型来看,Qwen 系列模型产出更长的程序性技能(118.9-128.6 行),而 Gemma-4-31B 与 Gemini-3.5-Flash 产出更紧凑的技能(分别为 45.1 与 81.2 行)。wiki 模式的积累在模型间也有差异:平均创建 6.3-8.9 个模式、编辑 7.0-18.4 次。跨基准来看,SpreadSheet 产出最长的技能(142.5 行)与最多的 wiki 模式(9.8 个),而 LiveMath 产出最短的技能(84.6 行)与最少的 wiki 模式(4.4 个)。总体而言,技能结构与 wiki 积累在模型与数据集之间均存在差异。

(图 3 图注)图 3:ALFWorld 上 Wiki 引导技能进化的案例研究(Qwen-3.6-27B)。持久的 Wiki 层编译了跨迭代模式、历史提案 diff 及其接受决策的审计记录,以及按时间排列的历史。在第 0 轮技能提案被拒的信息指引下,提议者在第 1 轮合成了被接受的技能更新,并在之后依据新的模式证据继续精炼。图中文件内容为便于呈现已作简化。

技能精炼贯穿进化全过程

附录表 5 把被接受的技能更新按早期(第 0-1 轮)、中期(第 2-4 轮)与晚期(第 5-7 轮)分组。跨模型来看,初始阶段占被接受更新的 39%-52%,中期与晚期仍占相当比例。跨基准的规律类似:39%-58% 的被接受更新发生在初始阶段。持续精炼在 SealQA 上尤为明显:33% 的被接受更新发生在中期、28% 发生在晚期。结合 5.1 节的消融结果,这些数据表明持久化知识积累支撑了跨迭代的持续技能精炼。Wiki 层保存了反复出现的错误、被拒绝的提案与进化历史,为技能提议者的后续更新提供积累的上下文。下面我们通过一个案例研究说明这些积累知识如何指导技能进化。

5.3 案例研究:解剖一次 Wiki 引导的技能进化

为说明 Wiki 层与技能层在进化中的交互,我们追踪 Qwen-3.6-27B 在 ALFWorld 上的一个具体例子,如图 3 所示(为呈现方便已简化)。

在第 0 轮,Wiki 维护者识别出一种基本的循环行为(take-examine-move-loop.md),技能提议者据此提出 goal-directed-action 技能,但它未能改善验证集表现而被拒绝。关键在于,skill-impact.md 保存了该提案的 diff 与被拒结果,使后续技能更新得以将这次失败尝试纳入考虑。

依据这份审计记录,技能提议者在第 1 轮创建了 break-repetition-loop 技能,附带一条具体行动规则(绝不把物品放回其原始位置),该提案被接受。随着新的循环变体在 rollout 中出现(multi-operation-loop.md),Wiki 维护者在持久 wiki 中积累新证据。在这些积累的 wiki 模式与新存储轨迹(图中未展示)的指引下,技能提议者在第 4 轮以一条新规则(每种操作对每个物品只做一次)进一步精炼了该技能。这个例子展示了先前迭代的持久化知识如何指导后续的技能精炼。

类别技能:创建(提出/接受)技能:编辑(提出/接受)技能平均长度Wiki 模式:创建Wiki 模式:编辑Wiki 模式平均长度
按模型(全数据集平均)
Qwen-3.5-4B3.1 / 1.64.9 / 1.3126.28.818.448.2
Qwen-3.5-9B4.6 / 1.43.4 / 0.7128.67.310.926.6
Qwen-3.6-27B4.4 / 1.53.6 / 0.8118.96.517.947.7
Gemma-4-31B4.8 / 1.33.2 / 0.845.16.313.723.7
Gemini-3.5-Flash2.3 / 1.25.7 / 1.181.28.97.018.1
按基准(全模型平均)
LiveMath1.9 / 1.16.1 / 1.984.64.412.131.7
SealQA4.9 / 0.93.1 / 0.498.59.415.926.9
SpreadSheet4.5 / 1.43.5 / 1.1142.59.811.338.5
OfficeQA4.7 / 1.83.3 / 0.3102.98.314.931.4
ALFWorld3.9 / 1.64.1 / 0.893.55.814.340.6

表 4:进化出的技能与 wiki 模式在各推理模型(上半)与基准(下半)上的统计。技能一栏报告提出/接受的创建与编辑数量及以 markdown 行数计的平均长度;wiki 模式一栏报告创建与编辑数量及平均长度。所有 wiki 模式的创建与编辑均被保留。

6 相关工作

经验驱动的智能体技能进化

智能体技能编码可复用的程序性知识,使 LLM 智能体能够把过去的经验用于未来的任务 (Zhang et al., 2025; Li et al., 2026; Anthropic, 2026; Xia et al., 2026b; Zhou et al., 2026; Wang et al., 2026; Xu and Yan, 2026)。近期的框架让智能体通过从过往执行轨迹中发现并精炼程序性知识来自我改进 (Yuksekgonul et al., 2025; Agrawal et al., 2026; Ouyang et al., 2026; Xia et al., 2026a; Lu et al., 2026)。EvoSkill (Alzubi et al., 2026)、Trace2Skill (Ni et al., 2026) 与 SkillOpt (Yang et al., 2026) 等方法使用专门的智能体流水线来分析任务 rollout 并更新模块化的技能文档 (Zhang et al., 2026b)。然而,这些方法都没有把已学到的东西维护为一个独立的、持续演化的知识表示。WikiSkill 引入了一个持久的 Wiki 层,跨迭代把经验固化为结构化知识,使后续技能更新能系统性地建立在积累的知识之上。

技能增强的智能体与智能体自我改进

除了构建高质量的技能之外,技能增强的智能体还必须在执行期间有效地选择并利用相关技能 (Chen et al., 2026a; Liu et al., 2026)。随着可复用技能数量的增长,近期工作探索了技能检索,即为每个任务从技能库中选出相关技能 (Zheng et al., 2026; Su et al., 2026; Cho et al., 2026; Shi et al., 2026; Ye et al., 2026)。WikiSkill 则聚焦于技能质量本身,与技能检索相互独立。另一条研究路线优化更广义的智能体运行框架(agent harness),包括提示词、上下文、工具、记忆与工作流 (Lou et al., 2026; Lee et al., 2026; Zhang et al., 2026a; Chen et al., 2026b; Lin et al., 2026)。这些方法通过分析执行轨迹与环境反馈来搜索更好的智能体配置,从而改进整个智能体系统。这一方向与 WikiSkill 互补:WikiSkill 专注于在保持更广义的智能体运行框架不变的前提下,进化可复用的程序性技能。

7 结论

我们提出了 WikiSkill:一个让智能体技能与持久的、复利式积累的知识库(wiki)协同进化的框架。通过把智能体工作区组织为三个不同的层,WikiSkill 使技能开发得以在跨迭代不断被验证、不断被整合的知识之上构建。一个编排好的循环把经验固化进 wiki、依据积累的知识提出技能精炼、并按验证表现对变更进行门控。实验上,WikiSkill 在五个基准与五个推理模型上一致优于现有技能进化方法,并在多数「模型-数据集」组合中优于无技能基线。在整体增益之外,技能进化与模型规模扩展互为补充:更大的模型通常从进化技能中获益更多,而配备技能的小模型可以胜过大得多的无技能模型。同时,进化出的技能能有效跨模型、跨模型家族迁移,并可能优于自进化技能。最后,消融实验确认持久化知识积累对有效的技能进化至关重要。

局限性(Limitations)

WikiSkill 存在若干局限,也由此指向未来工作。第一,为隔离技能质量、避免技能检索引入的混杂效应,本研究沿用先前工作的做法,把活跃技能直接注入智能体提示词。这一设定没有评估技能检索或触发,而随着可用技能数量增长,这一点会变得重要。第二,我们的验证门控要求每个被接受的提案都必须提升验证分数,这排除了那些暂时保持性能不变、但可能在后续迭代中带来增益的中性提案。我们沿用先前技能进化框架 (Yang et al., 2026; Alzubi et al., 2026) 的严格标准以保证公平比较;探索更灵活的接受标准是未来工作的重要方向。第三,Wiki 层跨迭代持续积累模式页、进化日志与提案 diff,但 WikiSkill 目前缺少自动修剪 wiki 的机制。随着长期进化运行中知识不断积累,此类修剪可能变得必要。最后,尽管我们的基准套件包含长上下文文档推理(OfficeQA)与多步工具交互,但它没有覆盖跨数百个环境动作或数小时的超长时程任务。开发能够在单次长执行 rollout 之内精炼程序性知识的在线技能适应方法,仍是未来工作的重要方向。

AI 披露(AI Disclosure)

本文使用大语言模型与编码智能体辅助并润色写作,以及生成部分表格与图表。

参考文献

参考文献从略,见英文原文归档。

附录 A 方法细节(附录摘编)

A.1 算法

WikiSkill 的完整技能进化流程(算法 1)如下:

  1. 输入:训练任务 Dtrain\mathcal{D}_{\text{train}}、验证任务 Dval\mathcal{D}_{\text{val}}、性能指标 R\mathcal{R}、迭代次数 KK
  2. 初始化技能集 S0S_{0}\leftarrow\emptyset、wiki W0W_{0}\leftarrow\emptyset
  3. 基线验证:以空技能集在验证集上 rollout,得到 RbestR(Tval,0)\mathcal{R}_{\text{best}}\leftarrow\mathcal{R}(\mathcal{T}_{\text{val},0})
  4. k=1,,Kk=1,\dots,K 循环:
    • Rbest=1.0\mathcal{R}_{\text{best}}=1.0,提前终止。
    • 推理:以 Sk1S_{k-1} 在训练集上 rollout,得到 Ttrain,k\mathcal{T}_{\text{train},k};抽取子集 Tsample,k\mathcal{T}_{\text{sample},k}
    • Wiki 维护:WkMWM(Wk1,Tsample,k)W^{\prime}_{k}\leftarrow\mathcal{M}_{\text{WM}}(W_{k-1},\mathcal{T}_{\text{sample},k})
    • 技能提案:PkMP(Wk,Sk1,Ttrain,k)P_{k}\leftarrow\mathcal{M}_{\text{P}}(W^{\prime}_{k},S_{k-1},\mathcal{T}_{\text{train},k});应用得到候选集 SkS^{\prime}_{k}
    • 验证:在 Dval\mathcal{D}_{\text{val}} 上 rollout SkS^{\prime}_{k}。若 R(Tval,k)>Rbest\mathcal{R}(\mathcal{T}_{\text{val},k})>\mathcal{R}_{\text{best}} 则接受(更新 SkS_{k}Rbest\mathcal{R}_{\text{best}}akAccepteda_{k}\leftarrow\text{Accepted});否则拒绝并回退到 Sk1S_{k-1}akRejecteda_{k}\leftarrow\text{Rejected})——只回滚技能,wiki 保留。
    • 更新 wiki 日志:WkUpdate(Wk,Pk,R(Tval,k),ak)W_{k}\leftarrow\text{Update}(W^{\prime}_{k},P_{k},\mathcal{R}(\mathcal{T}_{\text{val},k}),a_{k})
  5. 返回 SKS_{K}WKW_{K}

A.2 被接受技能更新的分布

被接受的技能更新提案在各迭代阶段的分布见附录表 5(列于附录 B 之后)。

附录 B 数据集细节与划分(附录摘编)

五个基准的要点:LiveMathematicianBench(LiveMath)(He et al., 2026) 由近几个月的数学竞赛选择题组成,考察复杂数学推理、量词与极值条件。SealQA (Pham et al., 2026) 是事实型问答基准,考察智能体构造有效搜索查询并从网络搜索结果中提取答案的能力。SpreadsheetBench(SpreadSheet)(Ma et al., 2024) 考察在库约束(如公式求值限制)下编写正确代码并执行复杂表格变换的能力。OfficeQA (Singhvi et al., 2025) 在大规模历史财政部公报(Treasury bulletins)语料上考察长上下文问答,任务需要跨长上下文与多页财务表格综合证据;沿用 Yang et al. (2026) 的设定,提示词中提供预解析的 oracle 参考页作为初始文档证据,同时保留本地文本处理工具(glob、grep、read)以便检索、交叉核对与检视磁盘上的完整公报文件。ALFWorld (Shridhar et al., 2021) 是交互式文本具身环境,智能体通过向模拟器输出文本动作完成多步家务任务,考察顺序决策、空间推理与从模拟器反馈中恢复错误的能力。

类别早期(第 0-1 轮)中期(第 2-4 轮)晚期(第 5-7 轮)
按模型
Qwen-3.5-4B39%39%21%
Qwen-3.5-9B52%30%19%
Qwen-3.6-27B43%40%17%
Gemma-4-31B52%37%11%
Gemini-3.5-Flash50%46%4%
按基准
LiveMath44%42%14%
SealQA39%33%28%
SpreadSheet41%48%11%
OfficeQA58%26%16%
ALFWorld55%34%10%

表 5:被接受的技能更新在进化迭代中的分布,按模型(上半)与基准(下半)分组。百分比表示各阶段被接受更新所占的比例。

基准交互方式训练验证测试环境工具
LiveMath单步3518124无(直接推理)
SealQA多步161085web_search、read_file
SpreadSheet多步8040280bash
OfficeQA多步5024172glob、grep、read
ALFWorld多步3918134环境许可动作(Admissible Actions)

表 6:各基准的样本统计、数据划分、交互方式与可用环境工具。

所有任务划分与工具集严格对齐先前工作 (Yang et al., 2026; Alzubi et al., 2026)。工具设定:LiveMath 为无外部工具的单步推理,模型直接给出最终答案;SealQA 配备网络搜索(Google Search API)与文件读取,用于多步事实检索(全部实验使用 2026 年 7 月版 SealQA);SpreadSheet 提供 bash shell 工具执行 Python 代码与表格操作;OfficeQA 提供本地文本搜索工具用于多步公报导航;ALFWorld 提供交互式模拟器动作空间用于多步具身决策。

小验证集下的评估稳健性。 沿用先前工作的既有设定 (Yang et al., 2026; Alzubi et al., 2026),各基准的验证子集相对较小,可能给门控决策引入评估噪声。为此,所有报告分数为整条进化流水线三次独立运行的平均测试表现,并配以配对 bootstrap 显著性检验(详见附录 C)。

附录 C 实现细节(附录摘编)

  • 分层抽样: 为给 Wiki 维护者提供诊断反馈,每轮迭代按分层策略抽样至多 8 条轨迹:至多 5 条失败轨迹(用于错误根因分析)加至多 3 条成功轨迹(用于识别有效策略、防止已正常工作的行为出现回退)。每条执行日志在注入提示词前截断至 15,000 字符。
  • 统计显著性检验: 每个基准执行 1,000 次配对 bootstrap 检验;每次从测试集有放回抽样构造与 Dtest|\mathcal{D}_{\text{test}}| 等大的评估集,计算候选准确率与两两性能差。跨基准整体评估采用分层的宏平均 bootstrap 重采样:每次在各基准内部独立有放回重采样,再以各基准等权计算宏平均准确率。
  • 最优判定: 方法先按观测性能排序;排名第一的方法 MM^{*} 仅当在 p<0.05p<0.05 下对所有对手都显著占优时才是唯一最优;否则所有与 MM^{*} 在统计上不可区分(p0.05p\geq 0.05)的方法一并列为「最优梯队」并加粗。

附录 D 基线细节与优化器 API 调用分析(附录摘编)

D.1 基线方法

  • Trace2Skill (Ni et al., 2026): 三阶段流水线,核心是并行轨迹分析与层级合并。在训练任务上评估当前技能后,分派并行的「成功分析员」与「错误分析员」,分别从通过任务提炼有效策略、对失败任务做根因诊断;产出的结构化补丁经层级合并算子递归整合为单一补丁集,应用到技能文档后按验证表现决定是否接受。
  • EvoSkill (Alzubi et al., 2026): 把技能进化建模为对候选程序前沿(frontier)的搜索。每轮迭代按类别轮询(round-robin)调度抽取训练任务并执行 rollout;只把失败轨迹连同过往提案结果的扁平反馈历史交给提议者。提议者生成候选技能修改并物化为 SKILL.md 文件,在验证子集上打分后加入一个有界的高分程序前沿。
  • SkillOpt (Yang et al., 2026): 实现六阶段 ReflACT 流水线(Rollout、Reflect、Aggregate、Select、Update、Evaluate)迭代优化技能。每个 epoch 在训练任务上 rollout 并对包含成功与失败在内的完整执行轨迹做反思,生成候选补丁;补丁经层级聚合与筛选后更新单一整体式技能文档,并按验证表现接受或拒绝。

D.2 优化器 API 调用复杂度

定义一次进化迭代为在完整训练子集 Dtrain\mathcal{D}_{\text{train}} 上 rollout 一遍(Ntrain=DtrainN_{\text{train}}=|\mathcal{D}_{\text{train}}| 个训练任务实例),以大小为 BBBNtrainB\leq N_{\text{train}})的 minibatch 处理。各框架每轮迭代的优化器 API 调用复杂度 C\mathcal{C} 如下:

框架每轮迭代公式复杂度
Trace2SkillNtrain+(1+1c1)NtrainB+1N_{\text{train}}+\left(1+\frac{1}{c-1}\right)\frac{N_{\text{train}}}{B}+1O(Ntrain+NtrainB)\mathcal{O}\left(N_{\text{train}}+\frac{N_{\text{train}}}{B}\right)
EvoSkill2NtrainB\frac{2N_{\text{train}}}{B}O(NtrainB)\mathcal{O}\left(\frac{N_{\text{train}}}{B}\right)
SkillOptKoptNtrainB\frac{K_{\text{opt}}\cdot N_{\text{train}}}{B}O(NtrainB)\mathcal{O}\left(\frac{N_{\text{train}}}{B}\right)
WikiSkill(1+TReAct)NtrainB(1+T_{\text{ReAct}})\frac{N_{\text{train}}}{B}O(NtrainB)\mathcal{O}\left(\frac{N_{\text{train}}}{B}\right)

表 7:各自我改进智能体框架每轮进化迭代的优化器 API 调用复杂度比较。NtrainN_{\text{train}} 为训练任务数,BB 为批大小,TReActT_{\text{ReAct}} 为 WikiSkill 技能提议者的交互式 ReAct 推理轮数,KoptK_{\text{opt}} 为 SkillOpt 每步的反思与合并调用数,cc 为 Trace2Skill 归约树的分支因子。WikiSkill 在所有数据集上使用 B=NtrainB=N_{\text{train}};在该全批(full-batch)模式下,WikiSkill 每轮的优化器调用数与训练集规模无关,仅需 1+TReAct1+T_{\text{ReAct}} 次调用。

要点:

  • WikiSkill: 每个批次中,Wiki 维护者需 1 次 LLM 调用分析抽样轨迹并固化模式页;技能提议者作为自主多轮 ReAct 智能体运行 TReActT_{\text{ReAct}} 轮(实验中大致 10TReAct2010\leq T_{\text{ReAct}}\leq 20),每轮 1 次 LLM 调用。在全批设定(B=NtrainB=N_{\text{train}},即 NtrainB=1\frac{N_{\text{train}}}{B}=1)下 CWikiSkill=1+TReAct\mathcal{C}_{\text{WikiSkill}}=1+T_{\text{ReAct}};由于 TReActT_{\text{ReAct}} 不依赖 NtrainN_{\text{train}},WikiSkill 的优化器调用复杂度对训练集规模而言是 O(1)\mathcal{O}(1)。这一常数调用量在某些数据集上可能带来更高的推理开销,但换来了对先前方法的稳定性能优势。
  • EvoSkill: 每个 minibatch 需 1 次提议者调用(错误诊断)加 1 次生成器调用(技能更新),总计 CEvoSkill=2NtrainB\mathcal{C}_{\text{EvoSkill}}=\frac{2N_{\text{train}}}{B},随训练集规模线性增长。
  • SkillOpt: 每个优化步执行 ReflACT 流水线(并行分析员反思、层级补丁合成、候选筛选),每步约需 Kopt68K_{\text{opt}}\approx 6\text{--}8 次调用,CSkillOpt=KoptNtrainB\mathcal{C}_{\text{SkillOpt}}=\frac{K_{\text{opt}}\cdot N_{\text{train}}}{B},同样线性增长。
  • Trace2Skill: 轨迹分析阶段对每条轨迹独立分析(NtrainN_{\text{train}} 次调用),补丁映射阶段需 NtrainB\frac{N_{\text{train}}}{B} 次调用,层级归约与应用阶段约 1c1NtrainB\frac{1}{c-1}\frac{N_{\text{train}}}{B} 次合并调用加 1 次最终格式化调用;因对每条训练轨迹都要独立调用一次 LLM,复杂度下界为 O(Ntrain)\mathcal{O}(N_{\text{train}})
  • 全批训练 vs. minibatch 优化: WikiSkill 在所有数据集上取 B=NtrainB=N_{\text{train}},每轮一次性处理整个训练集;技能提议者按需动态搜索、挑选并阅读特定执行轨迹以诊断根因。相反,EvoSkill 与 SkillOpt 在 minibatch 设定(B<NtrainB<N_{\text{train}})下才达到最佳表现,因而其优化器调用复杂度随训练集规模线性增长;Trace2Skill 则无论批大小如何都严格保持 O(Ntrain)\mathcal{O}(N_{\text{train}})

附录 E 系统与智能体提示词(附录摘编)

原文附录 E 给出了三类提示词的完整原文(此处摘编其结构要点,完整文本见英文原文归档):

  • 各任务推理智能体系统提示词(E.1): 五个基准各有一份,共同点是均包含 {skill_section} 占位符用于全量注入活跃技能,并规定最终答案格式(如 <answer>...</answer> 标签)。LiveMath 要求逐步推理后只输出选项字母;SealQA 说明 web_search / read_file 的多次调用方式;SpreadSheet 详述任务字段(working_directory、instruction、spreadsheet_path、answer_position、output_path 等)并严格限制读写路径在工作目录内;OfficeQA 规定「先窄化到最相关文件、短查询加小范围阅读、不得编造未被检索文本支撑的数值」等规则;ALFWorld 提供步数、历史观察/动作、当前观察与许可动作列表,要求 <think> 推理后在 <action> 标签内给出动作。
  • Wiki 维护者系统提示词(E.2): 声明 wiki 结构(index.md 一行一个模式的目录、log.md 按时间的进化日志、skill-impact.md 技能尝试及结果记录、patterns/ 每模式一页);输入为最新一轮执行轨迹与当前 wiki 上下文;输出为增量编辑模式的 JSON(create_patterns、update_patterns、update_index、append_log,后两者必填),补丁操作限 append / replace / insert_after 且 target 必须是既有内容的精确子串。分析准则强调:读智能体的真实动作、对比成功与失败任务、提炼行动模式而非只看报错信息、核对技能指引是否真有帮助;模式页须记录描述、根因(为什么发生而非只是发生了什么)、轨迹中的确切命令序列与具体解法,同时收录失败与成功两类模式,禁止重复建模式、每页控制在 10-30 行;index.md 条目质量被标为最关键——每条须以一两句话概括「问题 + 根因 + 解法」,具体到智能体不必打开全文即可判断相关性。
  • 技能提议者系统提示词(E.3,ReAct 模式): 只有 read_file 与 finish 两个工具。工作流:先读 wiki/index.md 了解既有模式 → 读 wiki/skill-impact.md 查看历史尝试(含被拒提案全文,禁止重复被拒方案)→ 读相关模式页 → 经 traces/<task_id> 读失败任务的执行轨迹以理解根因 → 决定 create / patch / no_action → 调用 finish 提交完整提案。create 提案须含 SKILL.md 全文(YAML frontmatter + 适用时机 + 不适用时机 + 指令)与 PURPOSE.md 全文(来源 + 所解决的模式 + 进化历史);patch 提案用 append / replace / insert_after 补丁操作,replace 的 target 应是短小的特定段落,若要改动大部分文件则改用 create。规则要求:先读 wiki、聚焦行动模式与具体策略、技能保持精炼可执行、提案前必须至少阅读 4 条执行轨迹、当既有技能部分正确时优先打补丁而非新建。执行轨迹物理上存放于 Raw 层(raw/traces/),工作区环境会自动把 read_file("traces/<task_id>") 中的 traces/ 别名映射到 raw/ 下对应的执行日志。


本章目录
摘要1 引言2 问题设定3 方法4 实验与结果5 分析与讨论6 相关工作7 结论局限性(Limitations)AI 披露(AI Disclosure)参考文献附录 A 方法细节(附录摘编)附录 B 数据集细节与划分(附录摘编)附录 C 实现细节(附录摘编)附录 D 基线细节与优化器 API 调用分析(附录摘编)附录 E 系统与智能体提示词(附录摘编)Related Documents
苏ICP备2025204887号-2