SkillOpt：把 Agent 技能当作可训练文本状态
深入分析 Microsoft Research 的 SkillOpt 论文：一种用验证门控、文本学习率和拒绝编辑记忆来训练 Agent 技能文档的无权重更新方法
Executive Summary
SkillOpt 的核心主张很直接：如果现代 Agent 的很多能力来自外部技能文档、系统提示和工具使用规程，那么这些文本不应该只是手写、一次性生成或松散自我反思的副产物，而应该像模型权重一样被系统训练。论文提出的 SkillOpt 将一个 best_skill.md 视为冻结 Agent 的外部可训练状态，由另一个优化器模型读取 scored rollouts，提出有限的 add/delete/replace 编辑，并且只有当候选技能在 held-out selection split 上严格提升时才接受。部署时仍然只给目标 Agent 一个紧凑技能文档，不增加额外推理调用，也不修改模型权重。
实验结果非常强：论文在 6 个 benchmark、7 个目标模型、3 种执行模式上评估，声称 SkillOpt 在全部 52 个 (model, benchmark, harness) 单元格里都是最好或并列最好。以 GPT-5.5 为例，SkillOpt 相比 no-skill baseline 在 direct chat 下平均提升 +23.5 分，在 Codex harness 下提升 +24.8 分，在 Claude Code harness 下提升 +19.1 分。它还优于 human skill、one-shot LLM skill、Trace2Skill、TextGrad、GEPA、EvoSkill 等对照方法。
这篇论文真正有意思的地方不只是分数，而是它把“技能文档优化”从提示工程推进到一个更像训练循环的工程范式：rollout batch 提供训练信号，reflection minibatch 降低单样本噪声，文本学习率控制每一步改动幅度，validation gate 防止坏反思累积，rejected-edit buffer 将失败编辑转化为负反馈，slow/meta update 记录跨 epoch 的长期规律。它对 Agent 工程的启发是：未来的 Agent 适配层可能不是微调权重，也不只是写更长提示，而是训练一组可审计、可迁移、可版本化的自然语言操作策略。
研究价值定位
SkillOpt 试图解决一个越来越现实的问题：当闭源 frontier model 不能微调、开源模型微调又昂贵时，Agent 的 domain adaptation 应该发生在哪里？论文答案是“技能层”。技能文档可以描述工具策略、证据搜集流程、输出格式、常见失败模式和领域约定；如果它可以被离线训练，并通过验证集筛选，就能成为一种轻量级、可复用、可审计的适配资产。
与普通 prompt optimization 相比，SkillOpt 的边界更窄也更工程化。它不追求自动生成整个 Agent 系统，也不维护一个不断膨胀的技能库，而是专注训练一个 compact skill artifact。这个定位让它更容易落地到 Codex、Claude Code、direct chat 等不同 harness 中，也让它的改动历史可以被审计。
核心数据摘要
| 维度 | 关键结论 | 论文数据 |
|---|---|---|
| 总体胜率 | 全部评估单元最好或并列最好 | 52/52 cells |
| GPT-5.5 direct chat | 相比 no skill 平均提升 | +23.5 points |
| GPT-5.5 Codex harness | 相比 no skill 平均提升 | +24.8 points |
| GPT-5.5 Claude Code harness | 相比 no skill 平均提升 | +19.1 points |
| direct-chat oracle baseline 差距 | 相比每格最强基线平均再提升 | +5.4 points |
| 技能文档大小 | 最终 best_skill.md | 379-1,995 tokens |
| 接受编辑数量 | 真正进入部署技能的编辑 | 1-4 edits |
| 跨 harness 迁移 | Codex 训练的 Spreadsheet skill 到 Claude Code | +59.7 points |
模块索引
| 文件 | 标题 | 核心内容 |
|---|---|---|
| 01-research-context.md | 研究背景与文献综述 | Agent 技能层为何成为适配目标，以及它和 prompt tuning、skill evolution 的关系 |
| 02-methodology.md | 研究方法 | SkillOpt 的训练循环、文本学习率、验证门控、拒绝编辑记忆和 slow/meta update |
| 03-key-findings.md | 核心发现 | 主结果、消融实验、迁移实验、成本与技能形态 |
| 04-critical-analysis.md | 批判性分析 | 方法优势、证据强度、局限性、可复现风险与替代解释 |
| 05-implications.md | 意义与展望 | 对 Agent 工程、技能市场、组织知识管理和未来研究的启发 |
论文引用
@article{skillopt2026,
title={SkillOpt: Executive Strategy for Self-Evolving Agent Skills},
author={Yang, Yifan and Gong, Ziyang and Huang, Weiquan and Yang, Qihao and Zhou, Ziwei and Huang, Zisu and Li, Yan and Gao, Xuemei and Dai, Qi and Liu, Bei and Qiu, Kai and Yang, Yuqing and Chen, Dongdong and Yang, Xue and Luo, Chong},
journal={arXiv preprint arXiv:2605.23904},
year={2026}
}论文链接: https://arxiv.org/abs/2605.23904
Hugging Face Daily Paper: https://huggingface.co/papers/2605.23904