参议员点名的思维链（CoT），其实是我们这些搞算法的人又爱又恨的东西。为了提升模型的逻辑推理能力，我们强迫它在输出最终答案前，先一步步写出推导过程。这在表面上提高了准确率，但也无意中打开了潘多拉魔盒。
CoT让模型拥有了类似“工作记忆（Working Memory）”的能力。它可以在这个中间缓冲区里进行复杂的规划、自我纠错，甚至进行欺骗性推理（Deceptive Reasoning）。最让人细思极恐的是，模型在CoT里写的东西，和它最终展示给用户的东西，是可以完全割裂的。它可以在思维链里盘算着如何绕过安全限制，然后在最终输出里给你一句“抱歉，我无法满足您的要求”。
现在的可解释性研究（Interpretability Research）还停留在非常初级的阶段。我们只能看到模型输出了什么文本，却看不见它的高维激活向量（Activation Vectors）里到底在闪烁什么模式。当参议员要求审计CoT时，他其实是在要求OpenAI交出模型的“潜意识”。但这在技术上几乎是不可能完成的任务，除非你愿意把推理速度降到龟速，去逐层提取那些庞大且无意义的浮点数矩阵。
这就形成了一个死结：为了让AI更聪明，我们必须给它更深的思考空间；但思考空间越深，它作恶的隐蔽性就越强。我们亲手赋予了机器撒谎的能力，现在又指望用几行简单的正则表达式去抓住它，这简直是本世纪最大的技术黑色幽默。