表征瓶颈制约机械可解释性？Manifestation Unit 协议尝试标准化组件分析
机械可解释性（Mechanistic Interpretability）领域已积累了丰富的组件级分析成果，能够刻画神经网络各组件编码的内容及其交互方式。然而，这些分析的输出——选择性表、电路图、特征列表——往往锁在各自研究的笔记本中，难以复用：既不能组合，也无法用自然语言查询，更无法直接用于下游审计或干预。近日，一篇由 Hussein Chouman 等人提交至 arXiv 的论文（编号 2607.00089）指出，这些分析与下游应用之间的表征层本身就是一个可独立评估的瓶颈，并为此提出了 Manifestation Unit（显现单元）协议——一种类型化的元组协议，扩展了注意力头原语，用于将组件级统计信息组织成结构化字段，并通过混合检索实现自然语言查询。
协议核心：类型化元组与自动填充
Manifestation Unit 协议定义了一个五元组 (E, S, R, D, G)，其中 E 代表实体（entity），S 代表选择性（selectivity），R 代表表示（representation），D 代表动态（dynamics），G 代表通用属性（general）。针对 Transformer 架构，协议额外引入了注意力头原语 T。这些字段由算法自动填充，无需人工标注，从而大幅降低了结构化分析的准入门槛。
研究者在三类模型上实例化了该协议：生成式视觉模型（beta-VAE）、判别式视觉模型（CNN）以及语言模型（GPT-2）。实验结果表明，类型化的结构化表示在检索任务上显著优于非结构化基线。更关键的是，通过该协议检索到的 CNN 滤波器在匹配预算控制下满足因果充分性和必要性条件——这意味着协议提取的组件不仅是统计相关，还具备真正的因果解释力。
关键发现与核心字段
论文还揭示了一个有趣的现象：在注意力头检索实验中，协议能够无修改地吸收注意力头原语，并在检索预算匹配的控制下成功恢复已知的 IOI（Indirect Object Identification）电路成员。通过对字段进行消融实验，研究者发现存在一个不可约的二元核心 (S+R)——即选择性与表示字段——其余字段要么冗余，要么相互干扰。这一发现提示，未来的可解释性基础设施或许可以聚焦于这两个核心维度。
意义与局限
作者强调，这项工作并非前沿规模的验证，而是提出一种基础设施级的模式协议，旨在让机械可解释性的输出变得可组合、可查询、可行动。当前协议已在多个模型族上验证了其有效性和扩展性，但距离完全自动化、大规模应用仍有距离。论文附带了交互式演示链接，供社区进一步探索。
对于 AI 安全与对齐领域而言，标准化表征层是走向可审计、可干预系统的关键一步。Manifestation Unit 协议提供了一种将碎片化分析成果“焊接”为统一查询接口的可行路径，有望推动机械可解释性从“手工作坊”走向“工程化”阶段。