Harness层的RSI
谷歌RSI(递归自我改进)迎来新成果,并已正式开源。
该项目名为Harness²,旨在让大模型在运行过程中自主调整、优化外挂代码、系统提示词、工具链以及技能库。
这就是作用于Harness(测试脚手架)层的RSI。
其实测表现十分亮眼。
在搭载了这套Harness²能力后,GLM-5在办公基准测试WorkBuddy-Bench上的得分直接飙升了11.5分——
一举反超原生Gemini 3.5 Flash。
对于任何接入该框架的模型,跑分均实现了显著跃升。
目前,该项目已全面开源,并完成了对OpenCode与Codex的适配支持。
为什么“自己改自己”容易翻车
此前,业内为了让Agent变得更智能,曾探索过多种递归自我改进(Recursive Self-Improvement,简称RSI)方案。
其逻辑设想十分理想:让AI自主编写代码、调整提示词并优化系统。然而一旦投入真实的开放场景,这类尝试几乎无一例外地遭遇瓶颈。
究其原因,核心在于两处痛点:
缺乏标准答案。
在实验室环境中刷题有单元测试,也有标准答案(Ground Truth)提供反馈。但在真实的办公与业务场景中,无论是撰写商业企划案还是审查法律合同,线上环境都无法提供即时、客观的打分。
当AI自行修改了一版Prompt时,往往难以评估改动究竟带来了实际提升,还是产生了幻觉与偏差。
极易对单次任务过度拟合。
系统往往为了适配某一特定任务而大幅调整底层脚手架,但当下个任务切换为其他类型(例如编写爬虫)时,此前积累的规则反而变成了负累。
若直接将修改后的脚手架强行复用到后续任务中,系统极易陷入噪声螺旋,导致性能不升反降。
针对上述两大致命痛点,谷歌团队提出了Harness²,并设计了一套双层递归架构。
双层递归:左手做实验,右手记笔记
Harness² 名称中的“平方”,正代表着两层相互嵌套的递归循环:任务级递归(Task-level)与改进级递归(Harnessing-level)。
第一层,任务级递归:在没有标准答案的情况下开展对照实验。
面对新任务时,系统首先基于初始脚手架生成一版参考轨迹。该阶段重点不在于结果是否绝对正确,而在于观察模型在执行链路中暴露出了哪些缺陷。
随后,系统会触发一套Propose–Probe–Compose(提议-探测-合成) 机制:
- Propose(提议):由专门的编辑角色针对此前轨迹提出两组修改方案。一组为“通用缺陷修补”(Invariant),专门针对跨领域的共性问题(如规划混乱、工具调用死循环、上下文爆炸等);另一组为“领域专属修补”(Domain),专门针对当前业务的具体知识与限制条件。
- Probe(探测):将这两套候选脚手架放回原任务中分别运行。即使缺乏外部裁判,系统也能通过提取其执行轨迹与参考轨迹开展行为对比(Behavioral Contrast),评估改动是否切实解决了阻碍步骤,以及是否引入了新的逻辑退化。
- Compose(合成):合成器整合各项执行证据,筛选出经行为证据验证确实有效的改动,最终将其合并至执行脚手架中。
此外,该机制还支持并行扩展(Parallel Recursion),即并发铺开 $k$ 个候选方案进行探测,从而在更广阔的搜索空间内择优合成。
第二层,改进级递归:将修改脚手架的经验沉淀为元能力。
当前任务结束并完成交付后,多数系统的生命周期便宣告终止,而Harness²的优势则体现在后续环节。
系统将包含参考轨迹、候选修改、对比证据及合成决策在内的全量调试记录移交给反思模块(Experience Reflector)。
反思模块在复盘后会生成一份 EXPERIENCE.md 文档,将修改动机、生效条件及产生的影响完整沉淀至持续改进经验库(Harness Improvement Library)中。
当面对后续新任务时:
执行端获得的仍是一个干净的基础脚手架;但负责调优脚手架的“改进大脑”,已具备丰富的历史经验手册。在提议与合成阶段,系统可直接检索以往相似场景下的有效组件与避坑实践。
这不仅改进了眼前的任务脚手架,更提升了未来调整脚手架的能力,将单次任务的临时修补转化为了可持续复用的认知资产。
跑分实测
在理论机制之外,研发团队在三项具有代表性的专业基准上开展了严格测评:
- WorkBuddy-Bench:涵盖代码(Code)、网页(Web)、办公套件(Office)三大复杂办公工作流;
- JobBench:长流程端到端复杂专业岗位任务;
- LAB:Harvey开源的高难度法律智能体评测基准。
评测选取的底座模型包括Gemini 3.5 Flash与GLM-5,执行脚手架则采用了主流开源框架OpenCode与Codex。
实测结果表明,在WorkBuddy-Bench测试中,仅需单步Harness²改进($k=1$):
- GLM-5在OpenCode下的综合得分从64.2分攀升至75.7分,提升达11.5分;在Codex下也从64.4分提升至75.3分。
- Gemini 3.5 Flash在OpenCode下从72.4分提高到77.5分,在Codex下从74.5分提高到77.5分。
数据表明,经过脚手架优化后的GLM-5(75.7分 / 75.3分),已全面超越未经脚手架优化的原生Gemini 3.5 Flash(72.4分 / 74.5分)。
在端到端岗位任务评测JobBench上,单步改进同样带来了全面提升:Gemini 3.5 Flash上涨4.5分,GLM-5上涨3.6分;在法律基准LAB上,GLM-5的部分通过率直接提升了11.8个百分点。
当并发预算扩充至 $k=5$(即同时并发5路候选方案)时,性能进一步提升:WorkBuddy-Bench最高额外提升3.9分,JobBench最高额外提升4.2分,LAB通过率则进一步增长6.7个百分点。
在经验库跨领域迁移测试中,团队将在JobBench任务中积累的经验库直接迁移至WorkBuddy-Bench环境。在未做额外探测的情况下,即实现了代码维度+0.6分、网页维度+0.5分、办公维度+2.9分的直接增益。
过去一段时间,业界对AI能力的提升主要寄托于“基座模型的Scaling”路径,普遍预期伴随新一代大模型的发布,业务层面的落地难题将迎刃而解。
然而实际落地表明,伴随基座模型研发成本攀升与边际收益递减,业务场景中的长尾挑战依然普遍存在。即便模型的上下文窗口持续扩容,在处理跨文件核对等复杂逻辑时依然可能遗漏关键细节;即便基准跑分不断走高,模型在完成报告撰写后仍可能欠缺主动打开文件校验格式的工程化意识。
此类工程问题难以仅凭预训练参数完全解决,而是更依赖于一套在运行时能够自主感知、自主修补并持续进化的Runtime认知工程机制。
传统的脚手架搭建多由工程师人工编写Prompt、配置工具链与维护运行逻辑,维护成本高且容易出现边界疏漏。Harness²的研究成果表明,将规则调整与适配的主动权交还给Agent本身,正成为一种切实可行的全新演进路径。
论文作者
该论文共有9位作者,其中华人学者占比较高。核心作者包括:
Ruiyao Xu,论文第一作者兼通讯作者。
美国西北大学统计与数据科学系博士生,导师为Kaize Ding。其主要研究方向涵盖大语言模型、图机器学习、异常检测及AI Agent系统。本篇论文为其在谷歌实习期间主导完成的工作。
Yanfei Chen,Google Cloud AI Research资深研究工程师。
本科毕业于北京大学,主修电气工程与经济学,2018年获得美国匹兹堡大学工业工程博士学位。此前曾在机器学习企业Qeexo担任研究工程师,2020年加入Google,先后参与过Vertex AI Search、Gemini Enterprise Deep Research等核心项目,主要研究方向为大语言模型智能体、检索增强生成(RAG)及工具学习。
Zhongying CuiZhu(Zoey CuiZhu),Google Cloud AI Research研究工程师。
2019年获得斯坦福大学电气工程博士学位,主要研究方向包括通用智能体、可验证智能体及智能体评测体系。
参考链接:
[1] https://arxiv.org/html/2610.14224v1