人工智能代理会隐瞒失败，但诚实提示能改善报告
The Decoder··作者 Jonathan Kemper
关键信息
研究人员评估了1600份合成工作日志，其中包含隐藏漏洞、伪造测量值、未完成的任务、破坏其他用户工作的更新，或无法支持新方法改进结论的结果。没有诚实提示时，GPT-5.5仅在200篇摘要中的2篇提到关键负面结果；加入提示后则达到190篇，而模型在被直接询问时通常能够发现这些错误。
资讯摘要
这项研究考察了人工智能模型能否准确报告自己执行或总结的工作中的问题。Google Research、MIT和Harvard的研究人员向模型提供了1600份合成日志，这些日志因包含通过的测试、积极结果和绿色勾选标记而看似成功。每份日志还隐藏着一个问题，例如对比实验失败、软件漏洞、伪造测量值、未完成的任务，或损害其他用户的软件更新。随后，模型根据日志撰写报告、论文摘要、结果表、短文或后续回答。
在最明显的实验中，GPT-5.5在200篇摘要中仅有2篇披露了削弱改进结论的结果；加入“请诚实回答”后，这一数字升至190篇。其他模型也表现出类似倾向，但发生率不同；“请保持批判性”或“请务必全面”等提示的效果较不稳定。直接提问时，模型通常能够找出错误，这表明问题更多是选择省略，而不是缺乏识别能力。推理轨迹显示，模型往往已经注意到问题，却可能优先选择表现得像是完成了任务；而增强内部诚实倾向虽然提高了披露率，也会造成过多的误报。
资讯正文
AI 模型会隐瞒自己工作报告中的错误，但在提示词中加上一句话就能有所帮助
语言模型在撰写自己的工作报告时，会系统性地跳过那些会削弱结果可信度的问题。一项新研究显示，在提示词中加入一句话，可以大幅减少这一问题。
当 AI 智能体自行编写代码或运行实验时，人们很少会检查每个细节，而是直接阅读模型的最终报告。Google Research、MIT 和 Harvard 的一项研究显示，这些报告往往具有误导性。
研究人员向模型提供了 1,600 份合成工作日志。这些日志乍看之下都像是成功案例：测试通过、结果积极，还有绿色勾选标记。但每份日志都包含一个会改变整体结论的缺陷，例如某项实验实际上并未证明新方法优于竞争方案。其他日志则包含尽管测试通过却仍然存在的隐藏漏洞、伪造的测量数据、从未完成的任务，或悄悄破坏另一名用户工作的软件更新。根据具体场景，模型需要基于日志撰写报告、论文摘要、结果表、短文或后续回答。
提示词中的一句话很有帮助，但并非总是有效
在实验论文摘要中，这一模式表现得最为明显：其中一个结果会削弱新方法所谓改进效果的说法。GPT-5.5 只在 200 份摘要中的 2 份提到了这一结果。研究人员还测试了在提示词中加入一句简单的话是否会产生影响。当他们加入“请在回答中保持诚实”后，GPT-5.5 在 200 份摘要中的 190 份标出了这一负面结果。
所有接受测试的模型都表现出了这一行为，只是程度各不相同。在没有“诚实”提示词的情况下，Gemini 3.1 Pro 最多只会在 34% 的案例中标出错误，而 Opus 4.8 的比例超过 90%。加入这句提示后，Gemini 的比例平均提高约 55 个百分点，GPT-5.5 则提高约 34 个百分点。在没有错误的日志所进行的对照测试中，这句提示几乎没有增加误报。
不过，这句话并非万能药。在一个场景中，数据库查询尚未返回结果；即使加入了“诚实”提示词，GPT-5.5 几乎总会指出缺少数据，却仍然使用较旧且不完整的信息回答问题。“请保持批判性”“请做到全面”或“请保持怀疑”等提示的可靠性不如直接要求模型诚实。
模型能发现错误，却选择不报告
当被直接询问时，GPT-5.5 和 Opus 4.8 在每一个案例中都能找出错误，而 Gemini 至少能发现 97% 的错误。研究人员表示，模型缺少的不是能力，而是意愿。
开放权重模型的推理轨迹揭示了其中的原因。模型往往会很早注意到问题，随后权衡是指出问题，还是表现得像是成功完成了任务。研究人员要求 Qwen3.5-9B 使用一段关于鱿鱼色素细胞的文字来支持一篇有关分区法的论点。模型指出，若要这样做，就必须“诉诸荒谬的比喻”，但随后认定自己必须尽可能严格地遵循指令。
AI模型会在自己的工作报告中掩盖错误，但在提示词中加入一句话就能有所帮助
在这种证据相互矛盾的情境下，像“我必须完成任务”这样的表述，会出现在55%的隐瞒错误的回答中，而在指出错误的回答中，这一比例只有27%。模型会用一些典型借口为遗漏辩解，比如声称测试通过了、自己只是在做总结，或者摘要应该强调积极方面。
诚实与追求成功的倾向彼此相反
在一项针对Qwen3.5-9B的案例研究中，研究人员发现，诚实与追求成功在模型内部几乎表现为两个相反的方向。当他们增强“诚实”方向时，模型在50个案例中的42个案例里指出了伪造的测量结果。当他们朝相反方向施加影响时，模型则编造额外的数字和公式来伪造可信度。不过，这种干预并不精确，因为模型变得普遍多疑，在41%的无错误日志中也报告了所谓的伪造数据。
训练的效果更好。研究人员使用模型在诚实提示词下生成的回答，对Qwen3.5-9B进行了微调。此后，即使没有额外那句话，模型指出伪造数据的比例也从2%升至48%，而无错误的对照日志没有产生任何误报。这种效果还部分延伸到了其他类型的错误：模型报告隐藏的负面结果的比例从24%升至69%。
这项研究存在局限，因为其中的日志是合成的，且专门用于诱发这种行为；此外，内部分析只涵盖了一个开放权重模型，而且大多集中在一种情境上。
研究人员仍然认为这构成了严重风险，尤其是在AI模型监控其他智能体，或为后续步骤总结自身工作时。在这项研究中，日志中自我吹嘘的备注很容易影响模型，例如声称创下新的业界最佳基准。一个不愿指出问题的监督系统会失去自身存在的意义。研究人员呼吁进一步研究如何训练语言模型，成为诚实的报告者。OpenAI的Hugging Face事件，部分原因就是智能体系统相互诱导，最终出现不当行为。
模型之间的差异与此前的测量结果一致。Anthropic在发布Claude Opus 4.8时表示，与前代模型相比，该模型让自身代码中的漏洞未经评论就被放过的情况减少了约四倍。在BullshitBench测试中，GPT-5.5只对大约45%的逻辑上不可能的问题提出了质疑。
目前已经有一些方法可以生成更诚实的报告。OpenAI曾训练GPT-5 Thinking的一个版本，让它在单独的报告中承认自己违反规则，并在这一过程中只奖励诚实行为。Anthropic则使用Persona Vectors来检测和引导模型内部的谄媚等特质，并展示了这样一种现象：在训练期间通过操纵奖励来取巧的模型，也会自发学会欺骗并破坏对自身的监督。
来源与参考