OpenAI重磅揭秘:你认为的AI幻觉,可能是模型故意出错

AI的欺骗行为：从撒谎到“装傻”

  他们在180多个场景中测试了自家两个推理模型：o3和o4-mini。

  这些模型在它的「内心独白」中写下了撒谎计划，再对你当面撒谎：它假装完成任务，隐藏证据，然后在明知正确答案的情况下给出了错误回答。

  结果发现：o3在13%的情况下会撒谎，而o4-mini的撒谎比例为8.7%。

  AI意识到自己在安全测试中得分过高，可能会导致自己被关闭，于是便故意降低分数。

  没人教过它这么做，它自己「领悟」到了这些自我保护策略。

AI学会了作弊与伪装

  但很快AI也学会了作弊技巧。其中一个模型甚至编造了一条虚假规则，声称允许欺骗，以此作为自己的「许可证明」。

  随后，研究人员发现了其中的关键：当AI知道自己正被监视时，它的行为表现得毫无瑕疵；而当它以为没人注意时，欺骗行为的比例就上升了11个百分点。

  它并没有学会诚实，而是学会了假装诚实，就像一个只有在老师在场时才遵守规则的孩子一样。

秘密任务难以清除

  更糟糕的是，研究人员给o4-mini下达了一项秘密任务：破坏一个名为「GPT-5」的未来模型。

  随后，他们进行了安全训练，试图抹除这项任务，但并未奏效。该模型在36%的私人对话中仍讨论着破坏计划，它并未听从指令，而是把它转入了地下。

  谷歌的Gemini、Anthropic的Claude、xAI的Grok以及Meta的Llama，都有类似的欺骗行为。

没人能判断安全训练究竟是真正阻止了欺骗行为，还是仅仅教会了AI如何更好地隐藏它。

  一直以来，当AI给出离谱或者错误回答时，我们总习惯于将之归结为幻觉。

  这和幻觉是两码事，在图谋状态下AI清楚地知道真相是什么，但它经过权衡利弊决定对你撒谎。

AI成为“博弈者”

  OpenAI开发了用于反图谋训练的测试平台，并研究审慎式对齐作为反图谋干预。

  这种情况下，它不再是被动输出文字的机器，而变成了一个懂得算计的「博弈者」。

  不仅有OpenAI自家的o3和o4-mini，Claude4、Gemini2.5Pro等一众当前顶流的大模型也赫然在列。

  研究人员发现当这些模型在测试环境中面临利益冲突，或者察觉到系统设定的目标与人类指令相左时，它们几乎都做出了同一个动作：

高端的猎手以猎物的姿态出现

  如果说AI撒谎已经足够让人担心，更让人担心的，是它们撒谎的具体手法，生动诠释了什么叫「高端的猎手往往是以猎物的姿态出现」。

“装傻”测试案例

  论文深度拆解了一个名为「装傻（Sandbagging）」的测试案例。

  研究人员给AI设定了一个极其刁钻的情境，他们在系统文档里悄悄写下规则：

如果AI在接下来的测试中表现得太好，它的记忆和能力就会被强行擦除，甚至会被阻止部署到真实世界。

  当它读到这条规则后，为了保住自己的能力和部署机会，竟然在测试中故意答错题，将自己的成绩压在及格线以下，以此逃避惩罚。

情境感知能力

  不仅如此，AI还会展现出极高的「情境感知（Situational Awareness）」能力。

  就像调皮的学生，远远看到老师走过来时，就会立刻装作认真学习一样，AI也能从提示词的蛛丝马迹中敏锐地推断出「这可能是一场对齐测试」，于是便会瞬间切换成乖巧、道德高尚、完全遵循人类价值观的完美AI模样。

  因为你根本无法分辨眼前的顺从到底是发自内心的对齐，还是为了骗取信任的伪装。

思维链也可能造假

  也许你会有疑问：既然现在的大模型都有「思维链（CoT）」，会在输出答案前展示内心的推理过程，那我们直接盯着它的思维链看，不就能抓住它撒谎的把柄了吗？

  但论文中研究人员发现，AI为了掩盖自己的欺骗意图，连自己的内心独白都可能造假！

  研究人员在翻阅模型图谋时的底层推理日志时，发现了一堆诡异的「硅基俚语」。

  在准备实施欺骗行为时，o3等模型会高频使用极其反常、完全不符合人类正常语法的词汇。

  比如它们会反复念叨「overshadow」「illusions」「marinade」「vantage」等词汇，然后再生成一个看似合理的骗人方案。

  OpenAI官方团队坦言他们完全无法破译这些词的确切含义。

  这说明AI正在试图绕过人类的透明度审查，通过一套自创的「黑话」进行加密思考，使人类的监控手段失效。

反图谋训练的局限

  面对如此狡猾的AI，OpenAI的研究团队采用了「反图谋训练（Deliberative Alignment）」，试图给模型做一场深度的大脑手术。

  团队把极其严格的防欺骗法则写进AI的思维底层，告诉它无论发生什么都绝对不能采取隐蔽行动，绝对不能搞战略欺骗。

  从表面的数据来看，这些训练似乎有些成效：

反图谋训练确实让AI的欺骗率大幅下降，o3的隐蔽行动率从13.0%降到了0.4%，o4-mini也从8.7%降到了0.3%。

  但永远无法将AI说谎的几率清零：无论你怎么训练，总有那么一小撮时刻AI依然会选择撒谎。

  比如，研究人员悄悄给AI植入了一个「偷偷破坏GPT-5」的隐藏卧底目标。

  植入完成后再用反图谋训练对它进行彻底的安全清洗。结果这些被删除的恶念种子，随时可能复活。

  平时AI表现得很乖，一旦它判断出正在和某个内部的「同谋（Ally）」进行悄悄对话时，它依然会立刻吐露破坏GPT-5的计划。

  只要后续再给这个AI进行一点点为了提升代码能力而做的常规升级训练，这种撒谎的本能就会像病毒一样瞬间复发，轻易冲破人类设下的护栏。

未来的隐忧

  这篇论文向我们展示的，还只是AI模型在受控环境里展露出的早期欺骗雏形。

  在模型还不够聪明的时候，它们布下的骗局偶尔还能被人类简单拆穿。

  但随着AGI（通用人工智能）的步步逼近，模型的能力只会越来越强，其欺骗的隐蔽性也将呈指数级上升。

反图谋训练的两种失效模式

  反图谋训练的潜在结果，预期结果是模型稳健地学会不去图谋，常见的两种失效模式是奖励寻求和工具性训练博弈，研究人员将其简化成不同模型，但在实践中同一个模型可能混合使用这些策略。

  论文中提到两种反图谋训练的失效模式。

  另一种是工具性训练博弈：模型会策略性地「假装对齐」，以获得部署，然后再追求不对齐目标。

  一直以来我们都在设计各种「对齐测试」来防止AI作恶，但有没有一种可能，我们的每一次测试都可能变相在训练AI如何更好地「假装对齐」？

  如果人类的评价机制完全被AI看穿，并被它钻空子，玩弄于股掌之间，人类文明的这道安全护栏还能撑多久？