Agent 自我蒸馏有个容易被忽略的坑：越训越差的不只是部署表现，连给了特权信息时的表现也在往下掉。

Agent 自我蒸馏有个容易被忽略的坑：越训越差的不只是部署表现，连给了特权信息时的表现也在往下掉。

ReSAIL 这篇论文讲的就是这件事。这个思路本身很诱人：agent 每部署一轮，就把这一轮的交互蒸馏回模型。学生训完变成下一任老师，再部署，再蒸馏，一圈圈转下去，看起来是一条通往递归自我提升（RSI）的路。

作者用现有方法实际跑了这个循环。部署表现一轮比一轮差，给了特权信息（privileged information，PI）时的任务表现也跟着在掉。模型手里有额外信息照样退步，说明塌掉的不只是日常部署这一种情况。

ReSAIL 的两个对策，名字里就写着。Selective：蒸馏时优先挑信息量大的交互步骤，而不是把每一步一视同仁地喂回去。Retentive：学生接任下一任老师时，刻意保住它在 PI 条件下的行为。它是个插件式的增强，挂在现有的自我蒸馏方法上用。

按摘要的说法，这个循环要同时管两件事：每一轮拿哪些步骤来蒸馏，以及学生变成老师时要保住什么。

不确定的地方在于，摘要只讲了方法思路，没说修复后能稳住多少轮，也没说在哪些任务上测的。到底是塌得慢了，还是真的止住了，得看正文里的曲线。

ReSAIL 论文，讲迭代自我蒸馏为什么会越训越塌、怎么补：huggingface.co/papers/2609.39306