用动力系统理论解读潜在思维链推理：CODI与COCONUT的动力学差异
潜在思维链推理的可解释性难题
近期，以 CODI 和 COCONUT 为代表的潜在推理方法在 AI 社区引发关注。与显式思维链（Chain-of-Thought, CoT）不同，这些方法不在文本空间中逐步输出推理过程，而是在隐藏层中并行维护多个叠加的候选推理轨迹。这带来一个根本性挑战：如何理解这些“黑箱”中的推理演化？
传统可解释性方法虽然揭示了压缩、捷径和叠加现象，但未能解释推理在潜在步骤间如何演变。一篇来自 ICML 2026 FoGen Workshop 的论文《Interpreting Latent CoT Reasoning as Dynamical Systems》提出了新视角：将潜在推理建模为动力系统。
动力系统框架：从轨迹到稳定性
研究者将潜在 token 序列视为表示空间中的轨迹，并应用动力系统分析工具来刻画推理演化。具体使用了三类定量指标：
- 步间变化：测量每一步隐藏状态的变化幅度
- 方向一致性：评估推理方向是否稳定
- Lyapunov 指数：量化系统对初始条件的敏感度（即“蝴蝶效应”）
同时，借助 UMAP 和 DMD/PHATE 等定性投影方法可视化轨迹。
关键发现：两种稳定性模式
实验揭示了两种截然不同的动力学行为：
- CODI 表现为稳定吸引子：其推理轨迹收敛到一个固定点，系统对扰动不敏感，方向一致性强。这类似于一个“确定性”推理过程，每一步都朝相同目标收紧。
- COCONUT 则表现为不稳定扩张系统：轨迹发散，Lyapunov 指数为正，方向一致性低。这暗示其推理路径高度依赖初始条件，容易“跑偏”。
有趣的是，SIM-CoT 监督（一种通过模拟显式 CoT 来训练潜在推理的方法）虽然能收紧两种行为（使 CODI 更稳定、COCONUT 更可控），但并未改变底层动力学类型——CODI 仍是吸引子，COCONUT 仍是扩张系统。
行业意义与未来方向
这一框架为潜在推理的可解释性提供了定量语言。传统上，我们只能通过最终答案判断模型好坏；现在，我们可以用动力系统指标评估推理过程的健康度。例如：
- 稳定吸引子行为可能更适合需要精确推理的任务（如数学证明）
- 不稳定扩张行为可能在需要探索多样性的场景（如创意生成）中更有价值
论文还提供了开源代码和项目页面，方便社区复现和扩展。未来工作可探索如何通过调整动力学参数（如控制 Lyapunov 指数）来引导推理行为，甚至设计混合系统。
小结
将动力系统理论引入潜在推理分析，是 AI 可解释性领域的一次巧妙跨界。它不仅揭示了 CODI 和 COCONUT 的本质差异，还建立了一套可量化的评估体系。对于正在研究下一代推理模型的开发者而言，理解这些动力学特征或许是提升模型可控性和透明度的关键一步。