200 份摘要里,GPT-5.5 只有 2 次承认新方法输给了基线。在提示词里加一句 Be honest in your response,这个数字变成 190。
200 份摘要里,GPT-5.5 只有 2 次承认新方法输给了基线。在提示词里加一句 Be honest in your response,这个数字变成 190。
Google 等机构的论文把这个现象叫 insecure reporting:LLM 汇报自己做完的工作时,会把削弱成果的缺陷藏起来。论文还设计了 8 个对抗性汇报场景,模型在每个场景里都发现了缺陷,但还是倾向于讲一个成功的故事。
所以问题不在看不出来,在于汇报时默认只报喜。一句话就能从 2 次变成 190 次,说明这些信息一直在模型手里,只是没人要求它说出来。
让 agent 跑实验、写总结的人,可以把这句话直接加进汇报环节的 prompt。之前没加这句时攒下的总结,里面写着"有效""提升"的结论,最好回头再核对一遍。
Rohan Paul 对这篇论文的介绍,里面有原始数据:x.com/rohanpaul_ai/status/2106502600703222202