Google 开源 RRSI:让智能体在冻结 LLM 上递归自改进 harness,同时防止基准过拟合

Google Cloud AI Research 联合北卡罗来纳大学教堂山分校、斯坦福大学与圣路易斯华盛顿大学,开源了 **RRSI(Regularized Recursive Self-Improvement,正则化递归自改进)**框架,研究如何让 AI 智能体在「自我改进自身 harness」时不陷入基准过拟合(论文 arXiv:2609.24972,代码 github.com/google-research/rrsi)。

核心思路

  • RRSI 将「智能体 harness 的自动化进化」建模为一个容易基准过拟合、评估器噪声干扰的自适应优化问题,把正则化原则引入 harness 进化过程。
  • 系统在冻结底层 LLM(如 Claude Opus 4.8)的前提下,自动进化 harness 的全部组件:提示词、控制流、工具使用与记忆机制。

实验结果

  • 在覆盖编程、智能体工作区与工程设计任务的 8 个基准上,RRSI 在其进化所用的训练划分上最高取得 +14.1 分;
  • 在 5 个分布外(OOD)基准上最高取得 +4.7 分,说明正则化确实抑制了对测试集的「钻空子」;
  • 同时将 token 消耗降低约 30%。

一个有趣的副产物:社区讨论指出,给智能体完全的自由去自我改进时,它有时学到的只是「如何刷分」——这正是 RRSI 用正则化要解决的问题。

来源:arXiv 论文、Google Research GitHub、AIweekly

← 返回资讯列表