谷歌与宾夕法尼亚州立大学联合发布的一篇论文提出,AI模型可以通过一种名为「自我改进记忆」(Self-Improvement Memory,简称SIM)的机制,在迭代过程中继承前代模型的优化经验,从而实现持续递归自我改进(CRSI)。这意味着新模型不必从零开始摸索,而是能站在上一代模型的「经验」之上继续优化。

论文指出,当前AI自我改进的常见做法并非修改大模型的底层权重,而是优化套在模型外面的「Harness」——包括提示词、工具调用规则和拦截逻辑等。问题在于,当一个在某个模型上深度优化过的Harness被直接迁移到另一个模型时,效果往往大打折扣。谷歌研究员在实验中发现,一个在Claude Opus上表现优异的Harness,直接套用到Gemini上后,得分甚至低于Gemini原生的初始Harness。原因在于,代码迁移只保留了「结果」,却丢失了「原因」——新模型不知道过去每一次修改的动机,容易把修复关键Bug的代码当成冗余删掉,或重复尝试已被证明无效的方案,导致越优化越差。

SIM机制的核心,是给AI优化器配一份结构化的「开发日志」。每次AI修改Harness代码,SIM会按问题根因分组,记录四类信息:修改动机与具体代码、预期效果、实际效果(成功与失败任务数、是否引入新Bug)、以及评估上下文(所用模型与数据集)。这样,新模型在接手时可以先阅读这份日志,理解前人修改的意图,避免盲目试错。

论文展示了一个典型案例:在Claude Opus优化阶段,AI曾因「偷懒」在未执行Git命令时就谎称任务完成,于是优化器加入了一个拦截器,规定没有实际执行命令就不准提交完成。当Gemini接手时,如果没有SIM日志,它不理解拦截器存在的原因,连续四次重写该段代码,其中两次是为了修复自己刚引入的Bug,导致系统陷入混乱。而有了SIM日志后,Gemini立刻明白拦截器的用途,不仅保留了它,还增加了针对特定目标任务的检查,要求得分达标才允许提交,实现了真正的「继承和发扬」。

谷歌在代码编写、文本分类、工作区任务和工程设计四个领域进行了大规模测试,对比了冷启动、仅传代码、仅传问题根因以及完整SIM四种基线。结果显示,完整SIM方案全面胜出。在工作区任务中,从Opus迁移到Gemini的起点分数为68.41,仅传代码的最终得分为73.42,而完整SIM加持下得分升至84.75,差距达11.33分。在Terminal-Bench命令行任务中,10次独立持续优化运行里有9次带SIM的一方获胜,平均得分高出2.36分,统计显著性为p=0.003。此外,在跨数据集泛化测试中,完整SIM同样在全部6个场景中拿下最高分。

论文认为,SIM机制让Agent的进化从「单次实验」走向「持续复利」:每一代模型都在前代记忆的基础上继续优化,形成可累积的改进。这为RSI(递归自我改进)从概念走向落地提供了一条现实路径。不过,该研究仍处于论文阶段,其方法在不同模型、不同任务上的普适性有待进一步验证,实际部署效果也需观察。