标题RRSI: Regularized Recursive Self-Improvement of Agent Harnesses来源arXiv, 2609.24972v1️文章简介研究问题现有的智能体通过自动修改提示词和工具配置即“Harness”来实现自我进化但这种进化容易在训练任务上过拟合导致在未见过的任务上表现反而下降如何解决这种泛化能力差的问题主要贡献论文提出了RRSI框架通过在进化过程中引入正则化约束限制候选方案的提出和选择从而让AI代理学会通用的机制而非死记硬背特定任务显著提升了跨任务的泛化能力和运行效率。重点思路提出正则化递归自我改进RRSI框架核心思想是不限制可修改的内容范围而是约束进化的搜索轨迹借鉴机器学习中的正则化原理来防止过拟合。在提议阶段Proposal-side实施约束采用随时间衰减的编辑预算早期允许大幅修改以探索新机制后期限制修改数量以聚焦稀疏且可归因的改动同时利用历史证据避免重复测试已失败的假设并在停滞时引导探索未触及的组件。在选择阶段Selection-side实施约束引入批评家筛选掉包含特定任务名称或答案的“作弊”修改设定基于噪声的性能底线防止因评估随机性而接受性能倒退的方案实施复杂度感知接受规则要求性能提升必须足以抵消增加的推理成本定期修剪长期无贡献的组件以简化结构。分析总结在编码、智能体工作空间和工程设计三个领域的八个基准测试中RRSI在进化所用的训练集上最高提升14.1分在五个分布外OOD测试集上最高提升4.7分证明了其强大的泛化能力。与现有的四种主流自动进化方法相比其他方法虽然在训练集上得分高但在分布外测试中往往表现持平甚至下降而RRSI是唯一在所有分布外测试中均优于初始基线的方法平均超越基线方法22.9%。RRSI生成的代理配置更加高效相比无正则化的进化方法其策略令牌消耗减少了30%说明该方法不仅提升了性能还避免了不必要的复杂性堆积。消融实验表明移除提议端或选择端的任何一组正则化约束都会导致分布外性能下降和成本上升证明了两端约束的必要性。个人观点论文将传统机器学习中防止模型过拟合的“正则化”思想应用到了智能体的“工程配置进化”中。