OctoNews
Thread

让 agent 自己改自己的执行框架（harness），最难的是什么？

技术和认知提升Agent

让 agent 自己改自己的执行框架（harness），最难的是什么？

是没人告诉它这次改对了没有。

Harness^2 这篇论文先把问题摆清楚：agent 的能力不光取决于底层模型，也取决于套在外面的 harness。递归自我改进（RSI）能让 harness 自动进化，可一放到开放世界就卡在两处。一是任务在设计 harness 时没见过，到测试时才第一次出现，没有标准答案式的验证器来指导在线修改。二是 RSI 的过程高度绑定具体任务，换到新场景就推广不了。

读这篇最该盯住的一点：没有验证器的时候，它靠什么信号决定一次改动要不要留下。

Harness^2 论文页，摘要里写了开放世界 RSI 的两个难点：huggingface.co/papers/2610.14224