谷歌发布了一项关于RSI(递归自我改进)的新成果,并将其开源。
该成果名为Harness²,它能让大模型在运行过程中,自行修改外部代码、系统提示词、工具链以及技能库。
没错,这就是在Harness层面实现的RSI。
其效果相当显著。
GLM-5在接入Harness²后,在WorkBuddy-Bench办公基准测试中,综合得分直接提升了11.5分。
瞬间超越了原版的Gemini 3.5 Flash。
整个过程无需改动模型权重,只需优化其外围的运行环境(脚手架)。
这是一种非常强大的“外挂”手段,任何模型套用后,其测试分数都能得到显著提升。
目前,该项目已全面开源,并已支持OpenCode与Codex。
为何“自我改进”常以失败告终
过去,业界为了让智能体变得更聪明,尝试过多种递归自我改进(RSI)方法。
思路听起来很理想:让AI自己编写代码、修改提示词、优化系统。但一旦将其置于真实的开放环境中,这些尝试几乎都以失败告终。
原因何在?
主要卡在两个关键问题上:
缺乏标准答案。
在实验室环境中,有单元测试和基准答案来判断对错。但在真实工作场景中,例如撰写商业计划书或审核法律合同,线上并没有人为你打分。
AI自己修改了一版提示词后,它如何判断修改是变聪明了,还是在胡编乱造?
过度拟合单一任务。
为了完成某个特定任务而费力改造的脚手架,当下一个任务变成编写爬虫程序时,之前修改的规则反而成了负担。
如果直接将修改后的脚手架套用到新任务上,系统很快就会陷入噪声螺旋,变得越来越笨。
谷歌团队此次提出的Harness²,正是针对这两个核心问题而设计的。
他们构建了一套双层递归架构。
双层递归:一边做实验,一边记笔记
Harness²名称中的“平方”,指的是两层相互嵌套的递归循环:任务级递归和改进级递归。
第一层,任务级递归:在没有标准答案的情况下进行对比实验。
面对一个新任务,系统先用初始脚手架运行一次,生成一条参考轨迹。这条轨迹的结果是否正确暂不关心,核心是观察模型在执行过程中暴露出了哪些缺陷。
接着,它会启动一个名为提议-探测-合成的机制:
提议: 专门的编辑角色会根据刚才的轨迹,提出两套修改方案。 一套是“通用缺陷修补”,专门针对跨领域的共性问题,例如规划混乱、工具调用死循环、上下文溢出等; 另一套是“领域专属修补”,专门针对当前业务的特定知识和约束条件。
探测: 将这两套修改后的候选脚手架,分别放回同一个任务中运行一次。 没有裁判也没关系,系统会抓取它们的执行轨迹与参考轨迹进行行为对比,观察改动是否解决了之前卡住的步骤,是否引发了新的逻辑退化。
合成: 合成器汇总所有执行证据,挑选出那些被行为证据证明有效的改动,并将其合并到最终的执行脚手架中。
这还没完。它还支持并行扩展,一次生成k组通用和领域候选方案,共2k个候选脚手架,并发探测后再进行k次独立合成,进一步拓宽搜索空间。
第二层,改进级递归:将修改脚手架的经验沉淀为元能力。
当前任务完成、交付物提交后,许多系统的生命周期便结束了。
但Harness²的真正厉害之处在于后续—— 它会把整个调试记录(包括参考轨迹、候选修改、对比证据、合成决策)交给反思模块。
反思模块复盘后,会生成一份EXPERIENCE.md文件,将这次为何如此修改、在什么条件下生效、带来了什么后果等信息,清晰地存储到持续改进经验库中。
等到下一个新任务到来时: 执行端拿到的,依然是一个干净的基础脚手架。 但负责修改脚手架的“改进大脑”,手里已经掌握了厚厚的历史经验手册。在提议和合成阶段,它可以直接检索过往相似场景下的有效组件和避坑指南。
改进的不仅仅是当前的脚手架,更是未来改进脚手架的能力。
这就将单次任务的临时修补,转变成了终身学习的认知资产。
实际测试结果
机制再精妙,最终还是要用真实数据说话。
团队直接选用了三个极具分量的硬核职业基准测试: WorkBuddy-Bench:涵盖代码、网页、办公套件三大高难度办公工作流; JobBench:长程端到端复杂专业岗位任务; LAB:Harvey开源的顶级法律智能体基准。
基础模型选择了Gemini 3.5 Flash和GLM-5,执行脚手架则选用了开源主流的OpenCode和Codex。
结果非常惊人。
在WorkBuddy-Bench测试中,仅进行单步Harness²改进: GLM-5在OpenCode下的综合得分从64.2飙升至75.7,暴涨11.5分;在Codex下也从64.4飙升至75.3。 Gemini 3.5 Flash在OpenCode下从72.4提升到77.5,在Codex下从74.5提升到77.5。
从数据可以看出: 经过脚手架优化的GLM-5,直接超过了未优化脚手架的原始Gemini 3.5 Flash。
在端到端岗位任务的JobBench上,单步改进同样带来了全面提升,Gemini 3.5 Flash上涨了4.5分,GLM-5上涨了3.6分;在法律基准LAB上,GLM-5的部分通过率直接提升了11.8个百分点。
如果将并行预算提升到 $k=5$,性能还会进一步提升:WorkBuddy-Bench最高再涨3.9分,JobBench再涨4.2分,LAB通过率再涨6.7个百分点。
更令人称奇的是经验库的跨领域迁移测试。
团队将在JobBench上积累的经验库迁移到WorkBuddy-Bench,在不增加额外探测预算的情况下,辅助单步Harness改进,最终让代码、网页、办公三项得分分别再提高0.6分、0.5分和2.9分。
过去两年,大家对AI的期待几乎全部押注在“基础模型规模扩展”上,总觉得只要等下一代GPT出来,手头的应用问题就迎刃而解了。
但现实给所有从业者泼了一盆冷水:基础模型越来越昂贵,边际效益在放缓,而落地场景中的长尾问题依然无穷无尽。
你给模型再大的上下文窗口,它在处理跨文件对账时依然会偷懒;你给它再高的测试分数,它写完报告依然不会主动打开文件去校验格式。
这些东西,靠预训练参数是永远无法解决的。
它需要的是一套能在运行中自我感知、自我修补、持续进化的运行时认知工程。
以前我们搭建脚手架,是工程师坐在电脑前一条一条手写提示词、配置工具、修复管道,累得半死还到处漏风。
现在Harness²证明了一条新路: 将规则制定的权力,交还给Agent自己。
论文作者
最后,按照惯例介绍一下论文作者。
一共9位,其中华人占比极高,高达78%。
由于篇幅有限,这里按顺序介绍三位。
Ruiyao Xu,论文第一作者兼通讯作者。 美国西北大学统计与数据科学系博士生,导师为Kaize Ding。 主要研究方向包括大语言模型、图机器学习、异常检测及AI Agent系统。 这篇论文,便是他在谷歌实习期间的工作。
Yanfei Chen,Google Cloud AI Research资深研究工程师。 本科毕业于北京大学,主修电气工程与经济学,2018年获得美国匹兹堡大学工业工程博士学位。 此后曾在机器学习公司Qeexo担任研究工程师,2020年加入Google,参与过Vertex AI Search、Gemini Enterprise Deep Research等项目,主要研究大语言模型智能体、检索增强生成及工具学习。
Zhongying CuiZhu,也叫Zoey CuiZhu,Google Cloud AI Research研究工程师。 2019年获得斯坦福大学电气工程博士学位,主要研究通用智能体、可验证智能体及智能体质量评估。
参考链接: [1] https://arxiv.org/html/2610.14224v1 本文来自微信公众号“量子位”,作者:Jay,36氪经授权发布。
开云手机网页版深耕按主题分类呈现,用户可快速定位公告、专题或常见问题。领域,用心服务每一位用户。