CAWI：用 Copula 对齐权重初始化，让随机神经网络告别“盲人摸象”
随机神经网络（RdNN）通过冻结随机初始化的输入到隐藏层权重，使得输出层可以闭式求解，从而避免了反向传播，训练效率极高。然而，传统的随机初始化方法完全忽略了特征之间的依赖关系——相关性、非对称性、尾部依赖统统被无视，导致模型条件数恶化，预测性能大打折扣。这一问题长期被 RdNN 领域忽视，直到最近一篇被 AISTATS 2026 接收的论文提出了 CAWI（Copula-Aligned Weight Initialization） 框架，才给出了系统性的解决方案。
核心思路：让初始化“看见”数据
CAWI 的核心思想并不复杂：既然输入到隐藏层的权重在训练中不再更新，那么初始化阶段就应该更“聪明”地利用数据中的统计信息。传统方法从独立同分布（如高斯或均匀分布）中采样权重，相当于假设所有特征彼此无关——这在真实数据中几乎不可能成立。CAWI 则引入 Copula 这一统计工具，先通过经验 CDF 将每个特征映射到 [0,1] 区间，再拟合一个多元 Copula 来捕捉特征间的秩相关（即依赖结构），最后从该 Copula 中采样每个权重列，并施加固定的逆边际变换以设定尺度。
整个过程不改变 RdNN 的目标函数、求解器或“一次冻结”范式，唯一变化的是权重的采样分布——从“盲目独立”变为“依赖感知”。
两种 Copula 家族，覆盖多种依赖模式
论文考虑了两种主流 Copula 家族：
- 椭圆型 Copula（高斯、t-Copula）：擅长捕捉对称的线性相关和尾部相关。
- 阿基米德 Copula（Clayton、Frank、Gumbel）：能够处理非对称依赖和不同的尾部行为（如 Clayton 强调下尾依赖，Gumbel 强调上尾依赖）。
这种设计使 CAWI 能灵活适配不同类型的数据，无论是金融数据中常见的“同跌不同涨”现象，还是生物医学数据中的非线性关联，都能被有效建模。
实验验证：83 个数据集上的全面胜出
研究者在 83 个分类基准（包括二分类和多分类）以及两个生物医学数据集（BreaKHis 和 Schizophrenia 数据集）上进行了测试，使用标准浅层和深层 RdNN 架构。结果表明，CAWI 在预测性能上 一致且显著地优于传统随机初始化，尤其是在特征间存在较强相关性的数据集上，提升幅度更为明显。
为什么重要？
RdNN 因其训练速度快、无需反向传播而受到关注，但“随机初始化”一直被当作一个简单的工程选择，很少有人质疑其统计合理性。CAWI 的工作看似只是改了一个采样步骤，实际上触及了 RdNN 的根基——它证明了：即使权重被冻结，初始化时的统计敏感性也能对最终性能产生决定性影响。这一发现不仅为 RdNN 提供了一种即插即用的改进方案，也为理解随机特征映射的表示能力提供了新视角。
局限与展望
目前 CAWI 需要额外的 Copula 拟合步骤，在大规模特征维度下计算开销可能增加。此外，论文主要关注分类任务，其在回归、生成模型等场景的表现还有待探索。不过，作为首个系统解决 RdNN 初始化依赖感知问题的框架，CAWI 无疑为这一领域打开了一扇新的大门。
代码已开源，感兴趣的读者可以前往 GitHub 仓库复现实验。