迭代精炼神经算子：一种缓解频谱偏差的固定点求解新方法
研究背景：神经算子的频谱偏差困境
神经算子（Neural Operator）作为科学建模中快速、数据驱动的替代模型，近年来在物理模拟、气象预测等领域展现出巨大潜力。然而，传统神经算子采用单次前向推理的固定流程，在处理高频细节时往往力不从心——这种被称为频谱偏差（Spectral Bias） 的局限性，导致模型对平滑的低频成分拟合良好，却无法准确捕捉剧烈的局部变化，例如湍流中的涡旋结构或活性物质中的非平衡态波动。
IRNO：将迭代精炼引入神经算子
针对这一挑战，来自多所高校的研究者在ICML 2026 Spotlight论文中提出了迭代精炼神经算子（Iterative Refinement Neural Operator, IRNO）。其核心思想是将预训练的基算子与一个可学习的精炼模块相结合，并通过不动点迭代（Fixed-Point Iteration） 反复应用该模块。
具体来说，IRNO首先由基算子生成一个粗粒度初始预测，然后精炼模块逐步添加残差修正，类似经典数值求解器（如牛顿法）的迭代过程。在局部平滑性假设下，研究者证明了该迭代算子的压缩映射性质，确保收敛到唯一不动点。
渐进式频谱损失：针对性攻克高频误差
为显式抑制高频误差，IRNO引入了一种渐进式频谱损失（Progressive Spectral Loss）。该损失函数在训练过程中逐步增加对高频分量的惩罚权重，使得精炼模块在不同迭代步数中优先修正不同频率成分的误差。这种设计避免了传统损失函数对所有频率一视同仁的缺陷，让模型能够自适应地聚焦高频细节。
实验结果：湍流误差降低56%，高频误差降至2%
在多个物理系统上的验证表明，IRNO显著提升了预测精度：
- 湍流模拟：相比基线算子，IRNO将误差降低了56.05%，尤其在高频涡旋区域改善明显。
- 活性物质系统：频谱分析显示，经过迭代精炼后，归一化误差比在低频段降至27.72%-36.10%，中频段降至5.07%-6.68%，而高频段更是低至1.48%-2.04%。更重要的是，即使超出训练设定的迭代次数，误差仍未反弹，表明模型具有良好的泛化稳定性。
意义与展望
IRNO的工作不仅提供了一种实用的算法，更从理论上将神经算子与经典数值分析中的不动点迭代联系起来，为理解深度学习中的迭代推理机制提供了新视角。未来，该方法有望推广至更广泛的偏微分方程求解、气候建模及工程仿真场景，成为连接数据驱动与物理驱动方法的桥梁。
论文代码已开源，感兴趣的研究者可进一步复现与扩展。