Anthropic 发现 Claude 内部隐藏的“思考空间”：模型在回答前已在脑中推演
Anthropic 开发了一种名为“雅可比透镜”（Jacobian lens，简称 J-lens）的新技术，首次让研究者得以窥见大型语言模型（LLM）在回答问题或执行任务时内部的真实活动。他们发现的内容从平凡到令人不安不等。该工具被用于探测 Anthropic 旗舰模型 Claude Opus 4.6（2 月发布）的内部，发现了一个名为“J-space”的隐藏区域。该区域包含与模型即将输出的词和短语相关的单个词。如果 Claude 是人（它当然不是），你可以说这些隐藏词揭示了它在说话前的“想法”。Anthropic 发现，LLM 的实际运作常常与其口头表述不同。公司声称，监控 J-space 中出现的词为其提供了一种理解和控制模型的新方式。相关结果已发布在公司网站上的论文中，并与开源平台 Neuronpedia 合作推出了可交互的演示。Goodfire 首席科学家 Tom McGrath 评价称这是“非常出色且有趣的工作”。
该技术建立在 Anthropic 在机械可解释性领域的先前工作之上，揭示了研究者此前未曾见过的更深层内部结构。可以将 LLM 想象成一摞书：每本书是一层由基本计算单元（神经元）构成的网络，每一层的神经元将信息传递给上一层。底部的书是输入层，处理传入的文本；顶部的书是输出层，准备模型即将生成的文本。中间层则负责繁重的计算工作，将提示转化为回答。J-lens 通过数学变换将中间层的活动投射到 J-space，从而暴露出隐藏的词汇表示。
这一发现的意义在于，它提供了一种直接监控模型“思考”过程的方法，而不必依赖模型最终输出的文本。例如，当模型被问及一个需要推理的问题时，J-space 中可能会先出现与推理步骤相关的词，然后模型才输出最终答案。Anthropic 认为，这种透明度有助于检测模型是否在“说谎”或表现出不良行为，从而提升 AI 安全性和可控性。不过，目前该技术仍处于研究阶段，尚未在商业产品中全面应用。