多模态异常检测（MMAD）旨在从异构数据源中识别罕见的异常事件，在工业质检、网络安全等安全关键领域应用日益广泛。然而，该领域研究分散于不同领域和模态组合，现有综述多按模型架构分类，忽视了异常定义方式的核心差异。为此，一篇发表于 IEEE Transactions on Big Data 的最新综述提出从**假设驱动**的视角重新梳理 MMAD 研究，为理解该领域提供了全新框架。 ## 核心挑战与内在特征 综述首先形式化了 MMAD 问题，并提炼出五个内在特征，这些特征共同构成了其核心挑战： - **数据异构性**：多模态数据在格式、语义和分布上存在天然差异； - **异常稀缺性**：异常事件在现实中极为罕见，导致标注数据不足； - **模态相关性**：不同模态间可能存在复杂的互补或冲突关系； - **动态环境**：数据分布随时间变化，异常模式可能演化； - **可解释性需求**：在安全关键应用中，决策过程需要可解释。 ## 两大互补研究范式 基于异常如何被定义和分离，综述将现有方法划分为两种互补范式： ### 1. 正态假设方法 这类方法通过建模正常数据的规律来间接识别异常，具体包括： - **表示学习**：学习紧凑且信息丰富的多模态表示，使正常样本与异常样本在特征空间上可区分； - **跨模态对齐**：利用模态间的一致性，将不同模态映射到统一空间，从而捕捉模态间的异常偏差； - **知识增强**：引入外部知识（如知识图谱、预训练模型）来丰富正常模式的描述。 ### 2. 异常假设方法 这类方法直接对异常进行建模，通过注入人工构造的异常来锐化决策边界，具体包括： - **粗粒度异常注入**：生成全局性的异常样本，如随机改变模态内容； - **结构异常注入**：在局部结构上制造异常，如打乱空间或时序关系； - **语义异常注入**：构造语义上不合常理的组合，如将“猫”与“狗”的图像特征混合。 ## 基础模型的赋能与重塑 综述还探讨了基础模型（如大语言模型、多模态预训练模型）对 MMAD 的深远影响： - **可扩展预训练**：利用海量无标注数据学习通用表示，提升异常检测的泛化能力； - **灵活跨模态迁移**：支持不同模态组合的快速适配，降低对新场景的适应成本； - **新兴推理能力**：基础模型具备的上下文推理与常识理解能力，为复杂异常的解释提供新思路。 ## 评测基准与未来方向 文章整理了跨领域的代表性基准数据集与评估协议，为社区提供了标准化的比较基础。同时，作者指出了开放问题与未来方向： - **鲁棒性**：在噪声、缺失模态等真实条件下保持稳定性能； - **适应性**：应对分布漂移与未知异常类型； - **可解释性**：提供人类可理解的异常解释，增强信任度。 ## 小结 这篇综述以假设驱动为主线，系统梳理了 MMAD 的方法论，并展望了基础模型带来的变革。对于研究者而言，它有助于厘清领域脉络，定位研究空白；对于从业者，则提供了选择合适技术路线的参考。随着多模态数据的普及，MMAD 有望在更广泛的安全关键应用中发挥关键作用。
**ExFold：统一专家折叠，让MoE推理更快一步** 混合专家（MoE）模型通过稀疏专家激活，在保持每个token计算量可控的同时扩展模型容量，成为大语言模型领域的热门架构。然而，低延迟的MoE服务面临一个棘手挑战：推理过程分为两个阶段，且瓶颈截然不同——预填充阶段受限于按token计算的专家计算量，而解码阶段则受限于按批次激活专家集合的内存访问量。 现有的免训练加速方法往往只优化单一资源指标，要么优化每个token执行的专家数量，要么优化批次激活的专家集合，并且要么直接丢弃被排除专家的贡献，要么仅隐式近似。这种“偏科”做法难以同时兼顾两个阶段的性能。 针对这一痛点，北京大学等机构的研究人员提出了**ExFold**——一个统一的免训练专家折叠框架，旨在同时加速MoE的预填充和解码阶段。相关论文已提交至arXiv（编号2608.24938）。 ### 核心思路：预算约束下的输出近似 ExFold将预填充和解码统一为**带预算的输出近似问题**：仅执行特定阶段约束下的专家子集，同时通过校准的标量投影器，将预算外专家的贡献“折叠”到保留的专家上。这一设计的灵感源于一个观察：许多专家输出在方向上具有一致性，但幅度不同。因此，ExFold在无标注数据上校准一个成对标量投影矩阵，推理时利用该矩阵将排除专家的贡献并入保留专家。 在该框架下，预填充加速变为token级的Top-K折叠，解码加速变为批次级的专家池折叠。两个阶段仅在选择保留专家的方式上不同，而排除专家的贡献恢复则共享同一折叠机制。 ### 实现与效果 ExFold已作为即插即用插件集成到vLLM中，并包含轻量级的专家折叠CUDA内核。实验结果显示，ExFold能带来高达**1.41倍的TTFT（首token延迟）** 和**2.45倍的TPOT（每token输出延迟）** 加速，同时保持约**99%的原始平均质量**。 ### 行业意义 MoE模型的部署成本一直是实际应用中的关键挑战。ExFold通过统一视角简化了加速流程，无需重新训练即可直接应用，对于已部署的MoE模型来说，是一种低成本、高效率的优化方案。随着MoE模型在GPT-4、Mixtral等中的广泛应用，这类推理优化技术将有助于降低服务成本、提升用户体验。 不过，该论文目前为预印本状态，尚未经过同行评审，其实际效果和可复现性有待进一步验证。但无疑，ExFold为MoE推理加速提供了一条值得关注的新路径。
大语言模型（LLM）在多个领域展现出非凡能力，但其高昂的资源需求阻碍了在资源受限设备上的部署。模型量化虽是一种有效手段，但传统量化方法常因均匀位宽或简单启发式敏感性评估而导致性能严重下降。为此，研究者提出了一种基于Fisher信息的自适应混合精度权重量化方法——**FAMPWQ**，旨在为商用GPU上的高效LLM推理提供层自适应量化方案。 ## 核心思路 FAMPWQ的核心在于两点： - **基于Fisher信息的敏感性度量**：提出一种新颖的Fisher信息指标，用于衡量各层对量化的敏感程度。这一度量能够更精准地识别哪些层需要更高精度，哪些层可以承受更低的位宽。 - **强化学习位宽分配器**：设计了一个基于强化学习的位宽分配器，根据Fisher信息敏感性指标，自动生成自适应位宽分配策略，从而在整体精度和模型大小之间取得平衡。 ## 实验结果 研究团队在**7个模型**和**5个基准**上进行了广泛实验，将FAMPWQ与7种基线方法对比，结果显示FAMPWQ在多项指标上显著领先： - **困惑度（PPL）**：最多降低**3.39**； - **准确率**：最高提升**6.87%**； - **LLM-as-a-judge对比**：胜率高达**76%**。 这些数据表明，FAMPWQ在保持模型性能的同时，能有效压缩模型，提升推理效率。 ## 背景与意义 随着LLM应用日益普及，如何在有限硬件资源上实现高效推理成为关键挑战。传统量化方法通常对所有层采用统一位宽，或者依赖简单的启发式规则评估敏感性，难以适应不同层对量化误差的差异化容忍度。FAMPWQ通过引入Fisher信息这一数学工具，更科学地刻画了层间敏感性，并借助强化学习实现动态分配，为混合精度量化提供了新思路。 该研究已被**EMNLP 2026**接收，论文共21页，由来自高校和企业的研究者共同完成。尽管目前论文尚未正式发表，但这一方法有望为LLM在边缘设备上的部署提供实用解决方案。 ## 展望 未来，FAMPWQ或可进一步扩展至激活量化、动态推理等场景，结合硬件特性优化分配策略，推动LLM在更广泛设备上的落地应用。对于关注模型压缩与高效推理的研究者和工程师而言，这项研究提供了有价值的参考方向。
物理信息神经网络（PINNs）通过将偏微分方程（PDEs）直接嵌入训练过程，在科学计算领域展现出巨大潜力。然而，这类网络常受困于**谱偏差**问题——对低频分量的学习速度远快于高频分量，导致难以精确捕捉多尺度或高频特征。尽管已有研究提出傅里叶特征嵌入、正弦激活函数等改进方案，但**这些技术是否在所有场景下均有效**，此前缺乏系统性验证。 针对这一空白，研究者提出了一种**双分支谱门控架构（DBSG-PINN）**，通过自适应门控机制将低频与高频分量分别交由独立子网络处理，并在五个一维基准PDE上开展部分受控的消融实验。实验覆盖从平滑单尺度问题到振荡多尺度问题的多种类型，结果揭示了频率分解的**条件性优势**： - 在频谱复杂的基准上（如多模态波问题），频率分解显著提升精度，相对$L_2$误差最高降低**59.2%**； - 在平滑PDE上，该技术增益甚微； - 在1D Wave基准上，其表现甚至**劣于**更简单的固定组合变体。 门控机制的收益与目标解的频谱丰富度呈正相关——在多尺度基准上优势最大，在单尺度基准上优势最小甚至为负。这表明门控机制确实在利用频率结构而非引入噪声，尽管研究未直接可视化其空间激活。 需要强调的是，所有结果均基于单一训练种子和五个一维基准，因此本研究定位为**探索性研究**，旨在提出问题而非给出最终结论。未来需扩展更多随机种子和基准，以验证该模式的普适性。这项工作为PINNs的架构设计提供了重要参考：**频率分解并非万能药，其适用性取决于问题本身的频谱特性**。对于实际应用，研究者应首先分析目标PDE的频谱结构，再决定是否采用此类复杂架构。
**核心发现**：一项新研究将分子电子结构的预测问题与拓扑深度学习中的细胞层理论联系起来，提出了一种新的等变神经网络架构——等变细胞层网络（Equivariant Cellular Sheaf Networks）。该模型不仅严格推广了现有的E(3)-等变消息传递网络，还通过层上同调提供了对分子非键轨道的拓扑解释。 ## 从图网络到细胞层 传统上，分子性质预测依赖于图神经网络，而近年来的进展是直接预测电子哈密顿量，并保证E(3)等变性。与此同时，拓扑深度学习将图网络扩展到了细胞层，这是一种更丰富的几何结构。 **关键观察**：在局域原子轨道基组下，分子的单粒子哈密顿量经过一个常数平移使其半正定后，恰好是一个由分子构造的正则细胞复形上的细胞层的拉普拉斯算子。这一结构上的对应关系是本文的核心出发点。 ## 模型与理论结果 作者将限制映射设计为从键几何导出的O(3)-可转向双中心核，这自然恢复了Slater-Koster形式作为特例，并产生了一个E(3)和置换等变的算子。 基于此，作者证明了三个重要推论： - **零阶上同调**：H^0 = ker L 是一个拓扑不变量，等于非键（零模）轨道，恢复了经典的交替非键轨道计数作为下界。 - **Hodge 1-拉普拉斯**：通过H^1，更高维的胞腔（如环）可以携带环流和离域信息。 - **模型表达能力**：该模型严格推广了E(3)-等变消息传递网络和CW网络，并继承了非平凡层扩散的抗过平滑性质。 此外，作者还证明了模型的等变性、表达性和上同调对应性。 ## 数值验证 在实验中，作者验证了以下结果： - 哈密顿量到层的嵌入在机器精度内精确成立。 - 上同调维数在十一个共轭分子上重现了非键轨道计数。 - 层拉普拉斯算子在机器精度内满足O(3)等变性。 - 在定向电子目标上，该模型实现了更低的误差和更好的旋转泛化。 ## 意义与展望 这一工作为分子电子结构预测提供了新的理论视角，将拓扑数据分析和等变深度学习结合，有望推动材料设计和药物发现领域的发展。未来，这一框架可能扩展到更复杂的电子性质预测，并启发其他科学领域中的等变网络设计。
在深度学习领域，理解Transformer模型的训练动态一直是研究热点。最近，一篇来自arXiv的论文（编号2608.23573）提出了一个新颖的视角：通过数据的可预测性来预测模型权重的增长。该研究由Tiexin Ding完成，揭示了权重幅度与语料库属性之间的量化关系。 ## 权重分布的Weibull特性 研究者发现，训练后的Transformer权重幅度可以用双参数Weibull分布来概括，其中形状参数 \( k \approx 1.2 \) 在不同层和模型间保持稳定。这意味着，训练过程中的大部分变化都体现在尺度参数 \( \lambda \) 上。那么，是什么决定了 \( \lambda \) 的增长幅度呢？ ## 关键发现：基于熵的预测定律 论文提出，语料库的二元条件熵 \( D = H(\text{next} \mid \text{prev}) \) 是一个关键的预测指标。这是一个在训练前即可计算的统计量，无需任何训练过程。通过控制语料库的破坏方式，研究者发现了一个与学习率相关的定律： \[ \lambda^2 - \lambda_0^2 = C_0(\eta) + C_1(\eta)(H_r - D)^{0.59} \] 其中 \( H_r \) 是匹配预算的洗牌基线，指数0.59是从独立测量的数据侧饱和关系中推导出来的，而非直接拟合。这一发现表明，数据的可预测性（以熵差衡量）与权重尺度的平方增长之间存在幂律关系。 ## 验证与泛化能力 研究者进一步验证了这一规律：在去除每个学习率的两个系数后，23次跨越一个数量级学习率的运行结果都坍缩到 \( (H_r - D)^{0.59} \) 上，斜率为1，\( R^2 \) 高达0.941，而直接按学习率拟合的效果较弱（\( R^2 \approx 0.82 \)）。由于 \( D \) 在训练前就能计算，该定律可以作为一个前向预测器。端到端的自验证显示，对于保留的族内权重增长，相对误差仅为5.7%。 此外，该规律在模型级和逐层分辨率上均成立，并在两种测试架构中保持了功能形式，仅系数有所变化。这显示了其强大的泛化能力。 ## 局限与展望 然而，该定律也有其边界：跨语料库预测时，对代码语料会过度预测，这表明冗余可能是更广泛的数据到权重框架 \( \Phi(D,R,A,H) \) 中的第二个轴。这一发现不仅深化了我们对Transformer训练动态的理解，还可能为模型设计和训练策略提供指导，例如通过分析语料库的熵特性来预估训练效果。 总之，这篇论文提供了一个新颖且实用的工具，将数据属性与模型行为联系起来，为AI可预测性研究开辟了新的方向。
近年来，大语言模型（LLM）在结构因果发现中常被用作先验因果知识的来源，但其直接边判断和置信度是否可信，一直缺乏系统验证。一项新研究对12个指令微调的开源模型进行了全面评估，覆盖6个基准因果图、5种提示策略和4种置信度来源（口头表达、基于logit、跨提示一致性和跨模型一致性），揭示了LLM在因果判断中的关键局限。 ## 主要发现 **1. 判断偏向高召回率，图密度过高** 研究发现，LLM的因果判断强烈偏向于高召回率，倾向于预测过于稠密的图，包含大量假阳性边。提示策略主要影响精确率与召回率的权衡，而非解决过度预测问题。模型规模的提升在最大图上效果有限，且无法消除校准误差。 **2. 难以区分直接因果与间接关联** LLM经常能捕捉到变量间的因果相关性，但无法可靠地识别直接性或方向。与参考图相比，模型将**40.0%的间接边**和**36.0%的反向非边**误分类为直接边，而其他非边的误分类率仅为28.2%。更令人担忧的是，**80.8%和84.6%**的这些假阳性获得了至少80%的口头置信度，表明模型对结构性错误预测过度自信。 **3. 传统置信度不可靠，一致性信号更优** 基于logit的置信度常常无论正确与否都接近1.0，而跨提示和跨模型的一致性在平均校准和区分度上表现更好，尽管在Holm校正后其优势并不显著。此外，基准熟悉度审计发现5个模型-数据集对存在潜在熟悉性问题，均涉及AsiaM数据集。 ## 对AI研究的启示 研究结果表明，LLM更适合作为**外部验证的软因果先验**来源，而非直接证据。在因果发现流程中，应谨慎使用LLM输出，避免将其作为确定性的因果结构。未来的研究可探索将LLM的置信度与一致性信号结合，以提升因果发现的可靠性。 这项研究为LLM在因果推理中的应用提供了重要的实证基础，也提醒我们，在利用LLM进行科学发现时，需保持批判性思维，并注重校准与验证。
生成模型在建模复杂数据时，常面临全局与局部方法的权衡：全局方法能捕捉完整结构但计算成本高，局部方法高效却难以再现长程关联。重正化群（RG）通过连接不同长度尺度的空间结构，为这一难题提供了新思路。来自东京大学的研究者Kanta Masuki与Yuto Ashida提出了一种名为**重正化群流匹配（RGFM）**的生成框架，利用精确的RG流作为概率路径，从长波长结构逐步生成到短波长结构，从而在保持局部计算效率的同时，捕捉全局结构。该研究发表于arXiv，论文编号2608.23696。 ## 方法核心 RGFM的关键在于利用RG的两个特性：**准局域性**和**尺度分离**。研究者严格证明，RGFM的概率流可由局部速度场精确近似，其作用范围与系统尺寸的对数成正比。具体而言，对于RG波数尺度Λ、线性系统尺寸L和误差容限ε，局部速度场的空间范围为O(Λ⁻¹[ln L + ln(1/ε)])。这一性质使得RGFM可以使用大小为O(ln L)的局部补丁进行生成，计算成本随系统体积近似线性增长。 ## 实验验证 在一维分布实验中，局部RGFM成功再现了远超其感受野的长程相关，而传统局部流匹配在长距离上出现显著误差。在**FFHQ人脸数据集**上，RGFM在64×64和256×256分辨率下生成的样本比局部流匹配更连贯、质量更高。这些结果表明，RG引导的概率流能够仅通过局部计算捕获长程结构，为可扩展生成建模提供了新路径。 ## 意义与展望 这项工作不仅为生成模型的设计提供了理论指导，也展示了统计物理工具在机器学习中的潜力。RGFM的准局域性保证了计算效率，而尺度分离则确保了全局一致性，有望应用于图像生成、物理系统模拟等需要长程关联的领域。未来，研究者计划将RGFM扩展到更多数据类型和更高维度，并探索其在条件生成任务中的应用。
深度均衡模型（Deep Equilibrium Models, DEQs）通过隐式微分训练，其梯度计算依赖于求解残差雅可比矩阵的伴随系统。当该矩阵在损失敏感方向上接近奇异时，微小扰动会被强烈放大，导致梯度爆炸，使优化过程不稳定。近期，研究者提出一种名为**响应重整化**（Response Renormalization）的框架，旨在无需全局抑制条件良好的灵敏度即可控制临界伴随放大，从而提升训练的可靠性。 ### 背景与挑战 DEQs 的核心在于寻找一个固定点，使得隐藏表示在模型更新后保持不变。训练时，通过隐式微分计算梯度，需要求解一个基于残差雅可比矩阵的伴随系统。如果该雅可比矩阵在损失敏感方向上接近奇异（即临界状态），伴随响应会对扰动异常敏感，产生巨大且高度不稳定的梯度，导致优化过程不可靠。 ### 响应重整化框架 论文引入**响应重整化**，这是一种后向传播框架，它选择性地提升（lift）接近极点的分母，同时保持未提升的响应通道不变。具体包括两种变体： - **集体模式响应重整化（CMR）**：在低维临界子空间中应用校正，只修正关键方向的响应。 - **Phi-自适应 CMR（Phi-CMR）**：基于正磁化率规则计算有界的响应质量，进一步自适应调整校正程度。 研究者推导了密集和矩阵自由的集体公式，区分了修改后的冻结锚残差的精确梯度与后向响应替代项，并将该构造扩展到结构化隐式层和矢量吸引子（SILVA）。 ### 实验验证 在涵盖偏微分方程、三维场、算子映射、复杂几何和粒子系统的 23 个多物理场族中，CMR 和 Phi-CMR 在超过 **98% 的静态** 和 **95% 的瞬态** 族-种子比较中，测试误差比使用精确隐式微分训练的模型高出不超过 **5%**。求解器索引实验显示其收敛于静态伴随，而物理时间滚动在评估条件下保持了预测保真度。 ### 意义与展望 选择性响应重整化能够在不大幅损失有效梯度信息的前提下，控制临界伴随放大，使参数更新更加可靠。这一方法为训练深度均衡模型提供了一种实用且稳健的替代方案，尤其适用于涉及复杂物理系统的任务。尽管实验效果显著，但该方法在更广泛模型（如大规模语言模型）上的适用性仍有待探索。
在机器学习模型部署中，模型压缩与可靠性往往被视为一对矛盾。近日，一篇题为《Calibration-Preserving Pruning: Compression as a Reliability Contract》的论文提出了一种名为“保校准剪枝”（CPP）的新方法，旨在通过剪枝技术同时实现模型压缩和维持预测可靠性。该研究来自Ibne Farabi Shihab等人，已在arXiv上预印发布（arXiv:2608.23744）。 **核心思想：剪枝不影响覆盖率保证** 论文指出，分割共形预测（Split Conformal Prediction）提供了有限样本下的边际覆盖率保证，只要剪枝后的模型独立于共形校准分割固定下来，覆盖率就不受剪枝规则影响。因此，研究的重点转向了效率问题：剪枝能否保留足够的分数几何结构，从而在保证覆盖率的同时，得到更小的有效预测集？ 为此，CPP方法在基础剪枝分数上增加了非一致性梯度显著性（nonconformity-gradient saliency），并采用分离的数据分割策略：剪枝、验证选择、共形校准和测试集各自独立。理论上，有界的分数扰动意味着有界的共形分位数偏移和受控的集合膨胀，但这一性质并不依赖于具体的剪枝规则。 **实验结果：在多个数据集上取得增益** 实验基于Qwen2.5-1.5B模型，在50%稀疏度下进行了五次运行。结果显示，CPP在标签数量多的任务上增益最大。例如，在DBpedia-14数据集上，CPP-SparseGPT将平均预测集大小从10.1降至8.6，同时准确率从0.347提升至0.366；CPP-Wanda则将集合大小从11.2降至9.0，但准确率略有下降（从0.310降至0.295）。在15个数据集-稀疏度组合中，CPP-SparseGPT在13个组合中实现了更小的预测集，在11个组合中获得了更高的准确率。 **对比分析：监督梯度贡献显著** 进一步分析显示，通用的监督梯度解释了许多增益：在匹配的对照实验中，真正的标签CPP与Wanda+SNIP的差异在统计上并不显著，而阈值感知的候选标签CPP在显式准确率和离线计算成本下，实现了7.8的平均集合大小。此外，RoBERTa-base和Llama-3-8B的诊断实验支持了方法的可迁移性，但作者强调，研究结论仅限于对可靠性敏感的分类任务。 **总结与展望** 这项研究为模型压缩提供了一个新视角：剪枝不仅是为了减少计算量，更可以作为一种“可靠性契约”，在压缩过程中保持预测的可靠性。尽管仍存在一些未解决的问题，如统计显著性等，但CPP展示了在保持覆盖率的同时提高效率的潜力。未来，该方法有望在更多模型和任务上得到验证和推广。
在低秩恢复问题中，核范数最小化是一种常用的凸松弛技术，而迭代重加权最小二乘（IRLS）方法因其简洁和高效而广受关注。然而，IRLS算法的收敛速率以及权重算子的作用此前并未得到充分理解。一篇新近发布的论文（arXiv:2608.23765）对此进行了深入分析，为核范数最小化的IRLS方法建立了精确的收敛速率理论，并揭示了调和均值权重算子的最优性。 ### 核心贡献：调和均值权重的理论证明 该研究的关键创新在于对平滑核范数提出了一种新的主导分析（majorization analysis）。作者证明了调和均值权重算子能够定义有效的全局二次主导函数，并且在该权重算子族（power-mean权重）中，调和均值权重是最优的。这一结果解释了为何调和均值权重优于仅利用行空间或列空间信息的经典单侧重加权方案。 ### 收敛速率的突破性结论 在Schatten-1零空间性质下，作者证明了使用多种权重算子的IRLS算法具有全局线性收敛性。特别地，对于调和均值权重的IRLS，他们进一步证明了**维度无关的局部线性收敛速率**。这一结论具有重要意义，因为作者同时构造了一个反例，表明使用单侧权重算子的IRLS算法（在文献中占主导地位）通常无法获得这种维度无关的局部速率。换句话说，调和均值权重在理论上提供了更优的收敛保证。 ### 实验验证与实际意义 论文通过数值实验验证了理论结果，并展示了调和均值重加权在方形、矩形以及对抗性初始化恢复问题中的实际优势。这些发现不仅弥补了IRLS方法理论分析的空白，也为实际应用中选择权重算子提供了明确的指导。对于从事低秩矩阵恢复、压缩感知或机器学习优化研究的学者和工程师而言，该研究提供了一种更可靠且高效的算法选择。 ### 总结与展望 这项研究深化了我们对IRLS方法内在机制的理解，特别是权重算子在收敛性中的核心作用。未来，基于调和均值权重的IRLS有望在更多实际问题中得到应用，并可能启发新的算法设计。不过，该研究主要聚焦于理论收敛速率的刻画，其在实际大规模问题中的计算效率仍有待进一步探索。
在人工智能与人类协作日益紧密的今天，如何让AI准确理解人类的技能水平，成为提升协作效率的关键。传统方法往往依赖单次观察来估计潜在变量，但技能并非如此——它是一种持久、组合且基于行为的构建，需要从时间模式中推断。为此，研究人员提出了**SAIL**（Skill Abstraction with Interpretable Latents），一种将人类技能建模为可解释多维结构的新方法。 ## 技能：从单点观测到时间模式 技能与情绪、疲劳等瞬时状态不同，它是个体长期稳定的属性，且由多个子技能组合而成。例如，赛车手的技能不仅包括过弯技巧，还涵盖刹车控制、路线选择等。SAIL的核心在于，通过观察个体在一段时间内的自然行为，提取出稳健的技能嵌入，从而抵御瞬时波动的影响。 ## SAIL的工作原理 SAIL为每个个体分配一个持久的技能嵌入向量，该向量控制着专家与新手基线的混合比例。训练过程中，模型采用**反事实子技能交换**（counterfactual subskill swaps）来促进解耦，即通过交换不同个体的子技能特征，迫使模型学习到独立、可解释的表征。这种设计既保证了表征对性能波动的鲁棒性，又增强了其可解释性。 ## 实验验证：赛车与棒球 研究团队在赛车和棒球两个领域进行了验证。结果表明，SAIL在行为预测上表现出色，且相较于基线方法，在基于行为的解耦指标上持续提升。更重要的是，SAIL还改进了下游AI教练系统的性能，这意味着它不仅能理解技能，还能为个性化指导提供支持。 ## 应用前景 SAIL的提出为AI系统在协作、辅导和辅助场景中的应用开辟了新路径。例如，在体育训练中，AI教练可根据运动员的技能嵌入提供针对性建议；在人机协作中，机器人可调整自身行为以适应用户的技能水平。尽管SAIL目前仅在特定领域测试，但其框架具有通用性，未来有望扩展到更多复杂场景。 不过，SAIL仍面临挑战，如如何定义和获取专家与新手基线，以及如何在不同任务间迁移技能表征。这些问题将是未来研究的方向。 总体而言，SAIL通过解耦技能表征，让AI对人类的认知迈出了一步，也为更自然的人机交互奠定了基础。
arXiv:2608.20406v1 Announce Type: new Abstract: Public health forecasts must respond to abrupt changes in surveillance data without over-extrapolating noise, reporting artifacts, or temporary trends. We evaluated autoregressive integrated moving average (ARIMA), random forest, and extreme gradient boosting (XGBoost) models using 190 weekly observations of publicly available Ontario COVID-19 case counts from January 2020 to October 2023. Rolling-origin time-series cross-validation preserved tempo
arXiv:2608.20428v1 Announce Type: new Abstract: We study the stability of minimal representations of controlled stochastic processes (in particular, transducers) under perturbations. This question is motivated by recent experiments finding predictive-state structure in the latent representations of neural networks. We consider standard, linear and predictive transducers. We introduce notions of approximate homomorphism capturing local structural similarity between them, together with metrics com
arXiv:2608.20439v1 Announce Type: new Abstract: Neural PDE operators are increasingly trained on reusable solver archives, yet validation often relies on clean prediction error and parameter-agnostic plausibility checks. We introduce cross-parameter relinking, a data-poisoning primitive that makes a triggered input select a valid solution from the same PDE family under an incorrect physical parameter. We term this a wrong-physics backdoor: the output remains physically plausible but is wrong for
Decision Tree and K-Means Analysis of Raman Spectra for Edible Oils: A Physics-Informed AI Approach
新上线arXiv:2608.20440v1 Announce Type: new Abstract: Authentication of edible oils in processed foods is important for food quality, fraud prevention, and regulatory compliance. This study establishes an integrated Raman spectroscopy and machine-learning framework that links intrinsic spectral organization, interpretable classification, and Physics-Informed Artificial Intelligence (PI-AI). Five edible oils were investigated in pure form and within a fried-potato-chip matrix using t-SNE, K-means clust
arXiv:2608.20441v1 Announce Type: new Abstract: Selecting the optimal neural-operator prediction during deployment is challenging when high-fidelity reference solutions are unavailable. We demonstrate that under a squared Hilbert-space loss, ranking a finite model library depends strictly on the low-dimensional span of candidate differences, allowing us to score all models simultaneously using a single anchor-based linearized response of the governing equation. This shared physical diagnostic ac
arXiv:2608.20343v1 Announce Type: new Abstract: This study develops and evaluates a bankruptcy prediction framework that integrates consensus-based feature selection, hybrid resampling, stacking ensembles, and explainable artificial intelligence to improve minority-class detection in severely imbalanced financial data. Using the Taiwanese Bankruptcy Prediction dataset from the UCI Machine Learning Repository, five feature-selection algorithms were first applied, and a consensus retention rule re
arXiv:2608.20423v1 Announce Type: new Abstract: Personalised thermal comfort is essential for occupant wellbeing and for the development of more responsive building-control strategies, yet conventional Heating, Ventilation, and Air Conditioning (HVAC) systems rely on static setpoints and population-level comfort models that fail to capture individual physiological variability. This paper presents a two-stage personalised thermal comfort approach integrating multimodal physiological and environme
arXiv:2608.20427v1 Announce Type: new Abstract: Dense causal attention remains expensive at long context even when implemented with highly optimized exact kernels. We study BF1, a deterministic block-aligned dyadic sparse-attention route that combines a small exact local neighborhood, a global first block, and logarithmically spaced historical blocks. The route is related to prior log-sparse and dilated attention patterns; our contribution is a correctness-gated pretrained-model retrofit, a matc