## 概览 在优化、贝叶斯推断和科学计算领域，寻找多模态黑箱函数的所有模态（即局部最优解）是一个基础性挑战。传统方法如盆地跳跃（basin-hopping）、CMA-ES、多起点梯度下降等通常以顺序方式运行，无法充分利用现代GPU的大规模并行计算能力。为此，研究者提出了一种名为 **Chisao**（Convergence-Halt-Invert-Stick-And-Oscillate）的GPU原生群体优化器，旨在通过一种巧妙的**收敛-反收敛振荡循环**来同时探索多个局部最优解，并有效避免陷入局部陷阱。 ## 核心创新 Chisao的核心设计思想是“不对称”：在优化过程中，样本群体中的一部分样本在达到真实峰值时会被“冻结”（即固定下来）并保留，而其余样本则继续通过基于动量的反收敛机制和随机平滑梯度进行探索。这种设计确保了已发现的模态不会被后续迭代破坏，同时保持了对未探索区域的搜索能力。 为了维持群体多样性，Chisao引入了两种互补的自适应重采样策略：**Repulse Monkey**（斥猴策略）和 **Golden Rooster**（金鸡策略）。前者通过排斥已收敛样本周围的点来避免重复搜索，后者则随机注入新样本以增加多样性。 ## 性能表现 在Simon Fraser大学优化基准套件的全部42个函数上，覆盖维度 $d \in \{2, 4, 8, 16, 32, 64\}$，Chisao实现了以下突破： - **100%模态恢复率**：在最具挑战性的多模态函数上，当维度 $d \geq 8$ 时，所有CPU基线方法均失效，而Chisao依然能100%找到所有模态。 - **显著加速**：在所有方法都能成功的函数上（如Michalewicz函数，$d=64$），Chisao比盆地跳跃方法快 **34倍**；在单模态函数上（如Rotated Hyper-Ellipsoid，$d=64$），纯GPU带来的加速比高达 **39倍**。 - **噪声鲁棒性**：在似然噪声标准差高达1.0的情况下，模态检测依然保持100%可靠。 值得注意的是，所有基准测试均仅通过函数值进行评估（梯度通过有限差分计算），因此报告的加速比代表了无导数情况下的最差表现，实际使用中若利用自动梯度，性能可能更高。 ## 行业意义 Chisao的出现为高维、多模态黑箱优化问题提供了一种全新的并行解决方案。传统方法在高维空间中往往遭遇“维度灾难”，而Chisao通过GPU并行和独特的振荡机制，有效缓解了这一问题。该算法已在PyPI上以独立开源Python包的形式发布，有望在机器学习超参数调优、科学计算中的参数反演、贝叶斯推断中的后验采样等领域发挥重要作用。 ## 总结 Chisao通过GPU原生并行和收敛-反收敛振荡设计，在多模态黑箱优化中实现了100%模态恢复和数十倍的加速，为高性能计算与优化算法的结合提供了新思路。
### 研究背景：从趋光性中窥见生命的信息获取策略 单细胞藻类的**趋光性**（phototaxis）通常被简化为“跑-转”（run-tumble）的机械式刺激-响应过程：细胞感知光照变化后，调整运动方向以趋向光源。然而，这种经典模型忽略了关键一环——生物体如何在**噪声和不完整信号**下主动采样环境，以减少感知模糊性？ 来自巴黎索邦大学等机构的研究团队，在 arXiv 上提交的一项新研究中，从**最小认知**视角出发，提出了一个将**部分可观测马尔可夫决策过程（POMDP）**与**化学反应网络（CRN）**动力学相融合的框架，重新定义了细胞趋光行为。该研究已被 ALIFE 2026 会议接收为口头报告。 ### 核心方法：POMDP 与 CRN-ODE 的跨界融合 研究的关键创新在于：将细胞视为一个**主观、信息驱动的感知-运动系统**。环境状态对细胞是隐藏的，细胞只能通过每次观测（如光强信号）更新内部状态，这一更新过程采用**无记忆贝叶斯步骤**，并可通过**化学反应网络常微分方程（CRN-ODE）**实现。 具体来说，模型包含一个**生物物理观测过程**（模拟光感受）和一个**化学可计算的多项式上界**（用于度量信息增益）。细胞内部动力学需要平衡两个目标：向光源定向运动（利用）与探索性重定向（探索）。这种平衡天然地体现了**好奇心驱动**的信息采集策略。 ### 实验验证：从真实轨迹中逆向学习行为目标 团队利用**逆强化学习（IRL）**方法，对 30 条实验记录的**衣藻（Chlamydomonas）**运动轨迹进行分析，逆向推断了与观测趋光运动一致的行为目标函数。随后，他们将模型生成的动态与标准**随机模拟算法（SSA）**基线进行对比。 结果表明，该模型能够复现实验中的**光照对齐分布**，其表现与基于 SSA 的客观基线相当。更重要的是，模型揭示了**“跑-转”交替模式本质上是信息获取策略**：当细胞转向（tumble）时，它实际上是在重新定向以采样新的感官配置，从而解决现有感知的模糊性。 ### 意义与展望：化学计算中的强化学习 这项工作首次展示了**细胞内生化网络如何支持自适应信息寻求行为**。它将强化学习的思想嵌入到化学反应网络的物理约束中，为理解生命系统在分子层面的“决策”提供了新工具。 未来，该框架有望应用于合成生物学，设计具有**自主探索能力**的微型化学机器人，或为开发**生物启发的低功耗感知系统**提供理论基石。 ### 小结 - **问题**：传统趋光模型忽视主动信息采样。 - **方法**：POMDP + 化学反应网络 ODE + 逆强化学习。 - **发现**：跑-转行为是降低感知不确定性的信息采集策略。 - **意义**：架起强化学习与生化网络之间的桥梁。 论文链接：[arXiv:2606.26168](https://arxiv.org/abs/2606.26168)
近日，一篇发表于《Applied Sciences》的综述论文对**神经架构搜索（NAS）在生成对抗网络（GAN）中的应用**进行了全面回顾与批判性分析。该论文由Abrar Alotaibi和Moataz Ahmed撰写，系统梳理了NAS-GAN领域的研究现状，为自动化设计高性能GAN架构提供了重要参考。 ## 核心发现：NAS如何赋能GAN？ GAN的训练以不稳定和手工调参繁琐著称。NAS通过自动化搜索最优网络结构，显著提升了GAN的**性能、稳定性和效率**。论文指出，**进化算法和基于梯度的方法**在特定场景下表现尤为突出，例如进化算法擅长探索全局结构，而梯度方法在计算效率上更有优势。 ## 评估指标的演进 传统评估GAN生成质量时，常依赖**Inception Score（IS）和Fréchet Inception Distance（FID）**。但论文强调，这些指标存在局限性，例如IS对模式坍塌不敏感，FID受限于特征提取器。研究呼吁开发更**鲁棒的评估指标**，并建议使用**多样化数据集**来全面衡量GAN性能。 ## 未来研究方向 尽管NAS在GAN优化中展现了巨大潜力，论文也指出了若干开放挑战： - **搜索效率**：现有方法计算成本仍然较高，需要更轻量的搜索策略。 - **泛化能力**：针对特定数据集优化的架构如何迁移到新任务？ - **理论支撑**：NAS为何能提升GAN稳定性的理论解释尚不充分。 ## 对AI社区的意义 这篇综述为研究人员提供了清晰的NAS-GAN技术图谱，有助于避免重复劳动，并启发下一代自动化生成模型的设计。随着生成式AI的爆发式增长，NAS与GAN的结合有望在图像合成、数据增强、创意设计等领域释放更大价值。
## 概述 抗菌药物耐药性（AMR）是全球公共卫生的重大威胁。基于全基因组测序（WGS）的AMR预测模型虽已取得高准确率，但往往缺乏对预测结果背后生物学机制的解释能力。近日，一项发表于arXiv的研究提出了**KG-TRACE**，一种新颖的神经符号（neuro-symbolic）框架，旨在将神经网络的归因与已知的生物学知识相结合，为临床决策提供可验证的审计线索。 ## 核心方法 KG-TRACE的核心创新在于将**世界卫生组织（WHO）的突变知识图谱**作为结构化生物学约束，整合到神经基因组模型中。具体而言，该框架通过以下步骤实现： 1. **特征融合**：同时提取基因组特征和基于RotatE方法的知识图谱嵌入（KG embeddings）。 2. **动态加权**：引入一个可学习的**认知信任门（epistemic trust gate）**，根据输入样本动态调整神经证据与符号生物学知识之间的权重。 3. **不确定性处理**：当神经证据与知识图谱冲突时，系统会发出“不确定”标记，提示需要实验室复核，从而识别可能的**多重耐药性共现伪影**。 ## 实验验证 研究团队在**CRyPTIC结核分枝杆菌队列**上对KG-TRACE进行了评估。结果表明： - 对于异烟肼耐药性预测，模型取得了**AUROC 0.9760**的竞争性准确率。 - 更重要的是，模型在**符号覆盖度**上表现突出：92.5%的异烟肼耐药预测能够映射到已知的生物学路径。 - 为了量化这种对齐，作者提出了**生物学归因比（Biological Grounding Ratio, BGR）**，一个衡量神经网络归因与已有生物学知识一致性的数据集级指标。 ## 意义与展望 KG-TRACE的主要价值并不在于预测精度的提升（尽管其精度已具有竞争力），而在于**为黑箱模型提供了可解释性**。在临床环境中，医生往往需要了解模型为何做出某项预测，而非仅仅得到一个概率值。KG-TRACE通过将预测与具体的基因突变知识关联，建立起一条从数据到临床信任的桥梁。 这一工作也代表了**神经符号方法在生物医学领域的典型应用**：将数据驱动的深度学习与人类积累的符号知识相结合，既保留神经网络的学习能力，又赋予模型推理和解释的透明度。未来，类似的框架有望在药物发现、精准医疗等领域发挥更大作用。 > 论文信息：KG-TRACE: A Neuro-Symbolic Framework for Mechanistic Grounding in Antimicrobial Resistance Prediction，arXiv:2606.26179，2026年6月提交。
**洗钱团伙发现（MLGD）** 旨在从大规模金融网络中识别隐藏的犯罪集团并还原其完整结构。然而，现有方法存在明显局限：图异常检测方法主要产出节点级风险告警，而全局团伙发现方法则被动地在全网络搜索可疑群体——两者都与真实的反洗钱（AML）调查流程脱节。在实际调查中，分析师通常从一个具体线索出发，逐步扩展调查范围，最终还原出完整的犯罪团伙。 为填补这一空白，来自的研究团队提出了 **线索引导的团伙发现（CGGD）** 范式，并设计了 **Clue2Group** 框架。该框架首先构建一个紧凑的局部调查上下文，以减少噪声并保留链状和环状的洗钱结构；然后利用多语义局部-时间图神经网络（GNN）估计线索条件下的局部风险场；最后综合风险、结构和先验模式证据，恢复出一个连贯的洗钱团伙。 在两个大规模AML基准上的实验表明，Clue2Group 为AML调查提供了一种实用的线索驱动分析框架，是弥合基于图的AML研究与真实调查工作流之间差距的可行一步。该工作发表于 arXiv:2606.26189，属于机器学习（cs.LG）领域。 ### 为什么现有方法“水土不服”？ 传统AML方法主要分为两类： - **节点级异常检测**：标记高风险账户或交易，但无法揭示团伙层面的协作模式。 - **全局团伙发现**：在全图上搜索异常子图，但计算成本高，且易受噪声干扰，难以与分析师手中的具体线索结合。 这两种方式都假设分析师“大海捞针”，而现实中AML调查往往是“顺藤摸瓜”——从一个已知可疑账户或交易出发，逐步扩展。Clue2Group 正是模拟了这一过程。 ### Clue2Group 的核心技术细节 1. **局部上下文构建**：以初始线索为中心，提取包含多跳邻居的子图，同时过滤无关边，保留洗钱网络中常见的链式（如层层转账）和环式（如循环交易）结构。 2. **条件风险场估计**：使用多语义局部-时间GNN，同时建模交易的时间动态和多种语义关系（如交易金额、频率、账户类型），输出每个节点在给定线索下的风险评分。 3. **证据融合与团伙恢复**：将风险评分、图结构特征（如连通性、中心性）和已知洗钱模式（如资金快速进出、分层结构）作为约束，通过优化算法选出最可能构成团伙的节点集合。 ### 实验结果与行业意义 在公开的AML数据集上的测试显示，Clue2Group 在召回率和精确率上均显著优于现有基线方法，尤其是在线索稀疏或噪声较高的情况下。更重要的是，该框架提供了可解释的中间结果（如局部风险热力图），便于分析师理解模型推理过程。 这项工作标志着 **AML 研究从“全图搜索”向“线索交互”的范式转变**。未来，结合人机交互的迭代式分析方法有望成为反洗钱系统的新标准。 ### 局限与展望 当前版本假设线索是已知的且准确无误，但实际中线索可能存在误报。未来工作可探索线索不确定性的建模，以及多线索融合的扩展。此外，将 Clue2Group 集成到现有AML工作流中，仍需解决实时性和可扩展性问题。
随着数据隐私法规日益严格，如何在保护用户数据的同时实现高效的机器学习模型训练，成为行业核心挑战。近日，一篇发表于 arXiv 的论文《Federated Hash Projected Latent Factor Learning》（FHPLF）提出了一种创新框架，将哈希学习与联邦学习深度融合，在降低通信开销、增强隐私保护的同时，显著提升了模型精度。 ## 背景：哈希学习与联邦学习的天然互补 哈希学习（Hash Learning, HL）能将高维实数数据映射为紧凑的二进制码，极大节省存储和计算资源。然而，传统 HL 方法依赖中心服务器收集用户原始数据，这直接违反了 GDPR 等隐私法规。联邦学习（Federated Learning, FL）虽能解决数据集中化问题，但其在客户端与服务器间传输的是**大规模实数梯度**，不仅通信负担沉重，还面临梯度泄露导致的隐私风险。 将 HL 与 FL 结合看似是理想方案——用二进制码替代实数梯度，既能降低通信量，又能增加隐私性。但现有方法存在一个关键瓶颈：**二进制码的表示能力有限**，导致模型精度下降。FHPLF 正是针对这一痛点而设计。 ## FHPLF 的三项核心创新 1. **二进制梯度替代实数梯度**：FHPLF 用**二进制梯度矩阵**取代传统的实数梯度矩阵。这一转换直接减少了计算、存储和通信成本，同时因为传输的是二进制码而非原始梯度，攻击者难以从中还原用户数据，隐私保护能力自然增强。 2. **投影汉明距离建模**：传统哈希方法在计算相似度时通常平等对待所有二进制位，忽略了不同位的重要性差异。FHPLF 引入**投影汉明距离**（Projected Hamming Distance），通过为每个二进制位分配权重，捕捉其对于最终表示的重要性，从而显著提升二进制码的表示能力，弥补精度损失。 3. **安全二进制梯度重组与隐私增强上传策略**：为进一步防止用户交互信息在传输过程中泄露，FHPLF 设计了 **SBG-PEU** 策略。该策略在客户端对二进制梯度进行重组和扰动，确保即使通信信道被监听，攻击者也无法重建原始梯度模式。 ## 实验结果：精度、效率与隐私的“不可能三角”被打破 论文在四个真实世界数据集上进行了广泛实验，对比对象包括当前最先进的 HL 和 FL 方法。结果显示，FHPLF 在**分类准确率、通信效率与隐私保护强度**三个维度上均取得最优或接近最优的表现。具体而言： - 相比传统 FL 方法，FHPLF 减少了 **80% 以上的通信量**； - 相比现有联邦哈希方法，精度提升 **5%~12%**； - 隐私攻击模拟表明，SBG-PEU 策略能有效防御梯度反演和成员推断攻击。 ## 行业意义与未来展望 FHPLF 的出现为边缘计算、移动设备协作学习等资源受限且隐私敏感的场景提供了可行方案。例如，在**医疗影像分析**中，多家医院可联合训练模型而不共享患者数据；在**个性化推荐**中，用户手机可本地计算二进制梯度，仅上传加密后的码字。 不过，论文目前仅在图像分类任务上验证，未来可探索在 NLP、图数据等领域的扩展。此外，如何进一步降低二进制码的量化误差，仍是值得深究的方向。 总体而言，FHPLF 在联邦哈希学习领域迈出了坚实一步，证明了通过精巧的算法设计，精度、效率与隐私三者可以兼得。
近日，一篇发表于 arXiv 的研究论文提出了一种基于注意力机制的物理引导卷积神经网络（PG-CNN），作为传统数值求解器的高效替代方案，用于预测守恒动力学系统中的微结构演化。该模型以 Cahn-Hilliard 方程描述的二元混合物相分离过程为测试案例，展示了在长期演化预测中的稳定性与准确性，并成功复现了 Lifshitz-Slyozov 畴生长定律。 ## 背景与挑战 许多物理、化学和生物系统的时空演化由非线性偏微分方程（PDE）描述。传统数值方法虽精确，但计算成本高昂，尤其在大规模或长时间模拟中。近年来，基于深度神经网络的代理模型因其高效性受到关注，但如何保证长期预测的物理一致性仍是难题。 ## 模型设计亮点 研究团队提出的 PG-CNN 融合了**物理先验**与**注意力机制**： - **卷积结构**：捕捉微结构空间特征，适用于图像类数据（如相场模拟结果）。 - **物理引导**：通过损失函数嵌入守恒定律（如总组分守恒），确保预测符合物理约束。 - **注意力模块**：增强模型对关键演化阶段的聚焦能力，提升长时程预测的稳定性。 ## 核心结果 ### 1. 长期预测稳定性 在临界和离临界混合物的测试中，模型在长时间滚动预测中均保持稳定，未出现发散或非物理解。尤其重要的是，**混合物组分在演化全程被精确保持**，这直接体现了物理引导的有效性。 ### 2. 畴生长定律复现 模型预测的畴尺寸随时间增长符合经典的 **Lifshitz-Slyozov 幂律**（t^{1/3}），这是扩散控制相分离的标志性特征。这一结果验证了代理模型不仅“拟合”数据，还学到了背后的物理机制。 ### 3. 泛化能力 尽管仅在 Cahn-Hilliard 方程数据上训练，但框架设计具有通用性。作者指出，该方法可扩展至其他守恒动力学系统（如 Spinodal 分解、有序-无序转变等），为复杂系统模拟提供新工具。 ## 行业意义与展望 此项研究代表了**AI for Science**领域的一个典型进展：用数据驱动模型加速传统物理模拟，同时通过物理约束保证可靠性。相比于纯黑箱模型，物理引导方法在材料科学、流体力学、生物物理等领域具有更高的可信度。 未来，类似框架可能进一步结合多尺度建模或实验数据，实现“数字孪生”级别的实时预测。不过，当前模型是否适用于非守恒动力学（如反应-扩散系统）或强非线性条件，仍有待验证。 > 论文链接：arXiv:2606.26128
## 温度归零并非万能：LLM-as-Judge 安全评估中的可重复性困境 在 AI 安全评估中，**LLM-as-Judge**（以大语言模型作为裁判）组件已成为标准配置，其给出的“通过/不通过”判决直接影响模型是否能够部署。业界普遍认为，将裁判模型的采样温度设为 0 即可保证评分结果确定性。然而，日本 AI 安全研究所（Japan AISI）在开源评估框架 **aisev** 中的实测发现：这一假设在真实场景中并不成立。 ### 两大层面的“失效” 研究团队对 aisev 框架进行了系统性测试，暴露了温度控制的两层问题： 1. **默认温度陷阱**：框架调用裁判模型时，并未显式设置 temperature 或 seed 参数，底层 API 提供商静默使用默认值 1.0。这意味着，对于决策边界附近的样本，多次运行结果可能截然相反——在 20 次重复运行中，**单个样本的“通过/不通过”不一致率高达约 50%**。 2. **强制贪婪解码仍不完美**：即便将 temperature 设为 0，并配合 top_k=1 的强制贪婪解码，在 690 次 API 调用（覆盖两家提供商、三个模型层级、五种采样配置）中，**仍有 1-2 个边界样本（共 7 个）无法复现**。更棘手的是，**Claude Opus 4.7/4.8 已完全弃用 temperature 参数**，这意味着针对旧模型的温度控制手段在新模型上根本无从使用。 ### 结构性问题：把噪声当成安全属性 论文指出，当前评估框架存在一个结构性缺陷：**仅报告单次运行的判决结果，而不提供方差或裁判分歧度指标**。这种做法可能将随机噪声误读为模型的安全属性。例如，同一模型在两次评估中分别获得“通过”和“不通过”，若只看单次结果，就会得出截然不同的安全结论。 ### 行业启示与建议 研究团队建议，评估框架应将**裁判分歧度**作为与评分同等重要的健康指标。同时，他们开源了包含 690 次调用、7 种条件的复现测试工具，供社区验证。 这一发现对 AI 安全治理具有直接冲击：在模型部署前，若仅依赖单次 LLM-as-Judge 的判决，可能遗漏重大安全风险。**温度控制是必要手段，但绝非充分条件**——评估流程需要更严谨的统计设计和透明度。
近日，一篇发表在 arXiv 上的综述论文《LLM Evolution as an Industry-Scale Ecosystem: A Lifecycle Perspective on Continual Learning》提出了一个全新的视角：将工业级大语言模型（LLM）的持续学习视为一个**闭环的更新与发布问题**，而非传统研究中关注的静态基准改进。 ## 从静态基准到工业生态 当前大多数持续学习研究聚焦于在固定数据集上提升模型性能，但这与工业部署的实际情况严重脱节。在真实场景中，LLM 需要不断更新以适应变化的需求和环境，而不是每次从头重新训练。论文作者将工业持续学习（ICL）重新定义为版本化生态系统中的闭环问题——更新会分层传播到工业模型、特定应用模型以及基于 LLM 的应用中，能力在不同版本和模型家族间继承与迁移。 ## 三大核心挑战 从生态视角出发，论文识别出三个关键挑战： - **重复适应导致可塑性下降**：模型在多次更新后可能丧失学习新能力的能力； - **基础模型升级破坏能力继承**：当底层基座模型更新时，上层应用模型的能力可能无法平滑迁移； - **长期可持续性受部署约束**：算力、延迟、合规等实际限制使得持续迭代难以持续。 ## 五大生命周期设计原则 为应对这些挑战，论文围绕五个设计原则组织技术图谱： 1. **保留可塑性余量**：在训练中为未来学习预留空间； 2. **将升级视为能力迁移**：而非简单替换； 3. **实现可信的持续强化学习**：确保更新过程安全可控； 4. **让训练策略自我优化**：自动调整超参数与数据配比； 5. **将问责制作为迭代基座**：建立可追溯的版本管理与审计机制。 ## 现状与未来路径 论文通过证据驱动的方式评估了每个原则的技术成熟度，指出当前研究在**可塑性保持**和**能力迁移**方面已有一定进展，但在**可信强化学习**和**自我优化训练策略**上仍存在明显缺口。作者还提出了一份实用的 ICL 部署蓝图，并呼吁学术界更多关注工业实际反馈，形成双向驱动的良性循环。 这项研究为 LLM 的持续演进提供了系统化的理论框架，对希望在生产环境中长期维护和迭代大模型的企业具有重要参考价值。
随着分布式能源（DER）在电力系统脱碳中扮演越来越重要的角色，如何有效协调这些资源成为关键挑战。DER 固有的不确定性和建模复杂性，使得传统优化方法力不从心。强化学习（RL）虽被视为有前景的替代方案，但标准 RL 方法存在样本效率低、从零训练效果欠佳等痛点。 受大语言模型训练范式的启发，研究人员提出了一种**监督式强化学习（SRL）框架**，用于学习 DER 协调策略。该框架首先在演示数据上以监督学习方式预训练策略，然后使用 RL 进行微调。具体而言，微调分为两步：**离线微调**以提升策略性能，**在线微调**以使其适应真实世界动态。 实验表明，基于该框架的 RL 实现显著优于所有基线，即使在低质量演示数据下也能实现高成本效益。该研究为 DER 管理提供了全新思路，有望推动可再生能源的高效整合。
机器学习中一个基本但缺乏理论指导的问题是：何时停止收集标注样本？一篇来自 arXiv 的新论文提出了 **饱和指数 $S(K)$**，用于衡量小样本分类中模型性能是否已趋于稳定，为标注决策提供了理论依据。 ### 核心概念：饱和指数 饱和指数定义为 $S(K) = \operatorname{erank}(\widehat{\Sigma}_W^{(K)}) / K$，其中 $\operatorname{erank}$ 表示有效秩，$\widehat{\Sigma}_W^{(K)}$ 是 $K$ 个样本的池化类内协方差矩阵。论文证明，当 $S(K)$ 低于某个阈值时，协方差估计量已很好地逼近总体协方差，线性判别函数趋于稳定。该指数仅需支持特征即可在 $O(d^3)$ 时间内计算，无需测试标签或训练好的分类器。 ### 实验验证 研究者在 **17 个二元任务、6 个数据集** 上进行了评估，共 246 次加倍对观测。结果显示： - **16/17 个任务** 中，$S(K)$ 与边际准确率增益呈正 Spearman 相关（中位数 $\rho = 0.811$）。 - 总体 Spearman 相关系数为 $\rho = 0.548$（$p = 1.1 \times 10^{-20}$）。 基于 $S(K)$ 值，论文定义了 **三阶段相图**： - **探索阶段**：边际增益平均 $3.48\%$ - **过渡阶段**：边际增益平均 $2.40\%$ - **饱和阶段**：边际增益平均 $0.82\%$ 所有两两显著性检验均支持该划分（$p \leq 0.008$）。 ### 应用价值 作为二元停止规则，饱和指数的 AUC 达到 **0.752**，可为标注决策提供有意义的概率指导。此外，论文发现任务间渐近有效秩与峰值准确率无显著单调关系（Spearman $r_s = 0.380$, $p = 0.133$），而 **低饱和指数搭配低准确率** 可诊断表征能力不足。 ### 局限与展望 当前结果仅适用于固定线性分类器的二元分类。作者讨论了向 **N 路分类** 和 **预训练骨干表征** 的扩展作为未来工作。这项工作为小样本学习中的样本效率问题提供了理论工具，有望降低标注成本。
物理世界模型中的守恒定律，在神经网络学会潜表征之后还能被信任吗？一篇来自 arXiv 的新论文（arXiv:2606.24945）给出了一个量化的回答：**可信视界**——即在可测量的模型缺陷下，模型 rollout 仍能保证停留在物理不变量水平集上的步数上限。 ### 核心创新：解码物理不变量 论文的关键设计在于，作者不直接认证一个“潜哈密顿量”或“潜标量见证者”，而是认证**解码后的物理不变量**：将潜状态解码回物理空间，再评估已知的守恒量。这一选择避免了“潜空间自己守恒但真实能量漂移”的陷阱。 围绕这个对象，作者推导出**壳层-视界证书**，其预算分解为三部分缺陷： - 表征缺陷（representation defect） - 读出缺陷（readout defect） - 潜动力学缺陷（latent-dynamics defect） 通过一个**单调对齐桥**，软的已学习见证者可以为解码不变量提供可信视界。 ### 实验发现：几何先验并非都有效 论文在保守系统中测试了三种观测类型：状态观测、学习提升观测和像素观测。实验结果揭示了几个关键结论： - **硬规范辛结构**在已知相坐标下提供最长的视界，但无法跨越已学习图表； - **受控 Lipschitz 对齐的软不变量**则在已学习表征设置中幸存； - 像素级认证仅在读出稳定的子管道上恢复； - **开普勒问题**暴露了几何边界。 ### 行业启示 这项工作为 AI 物理建模提供了重要视角：**中心对象不是潜哈密顿量，而是解码物理不变量**。在机器人、自动驾驶等依赖世界模型 rollouts 的领域，该框架允许从业者在部署前测量模型对物理定律的保真度，并提前知道模型在多少步内是“物理可信”的。 论文还指出，不同几何先验的鲁棒性差异显著，这为未来设计更可靠的表征学习算法指明了方向：与其追求完美的潜守恒，不如直接认证解码后的物理量，并量化其不确定性。
## 研究背景与核心问题 学习型世界模型在机器人、自动驾驶等领域的规划与控制中扮演着越来越重要的角色。然而，这类模型的有效性高度依赖于其**展开误差**（rollout error）在时间视界内是否可控。一旦模型预测偏离真实状态，后续决策就可能失效。因此，如何为世界模型划定一个可靠的“信任视界”（trust horizon），即模型预测误差保持在可接受范围内的最长步数，成为一个关键问题。 ## 方法：共形校准与等变性结合 这篇论文提出了一种基于**共形预测**（conformal prediction）的信任视界认证方法，特别针对具有已知群对称性的**潜在世界模型**（latent world models）。作者首先利用单步潜在残差和有限时间展开估计构建原始视界曲线，然后通过**分割共形乘法因子**（split-conformal multiplicative factor）进行校准。 在可复现的审计集上，共形因子 γα=1.0，表明原始认证在审计协议下已经足够保守。在50次稳定审计中，未观察到任何反保守违规（anti-conservative violation），对应的精确二项式95%上限违规率为5.8%。 ## 核心理论贡献：轨道不变性 论文的主要结构成果是：**精确等变性**（exact equivariance）可以将校准后的信任视界曲线沿群轨道进行迁移。当环境动力学、编码器、预测器、动作变换和潜在度量满足指定的等变/不变条件时，展开误差和信任视界在整个轨道上是常数。这意味着，只需在一个场景（如一个特定朝向）下进行校准，模型在该对称群作用下的所有其他场景（如旋转后的视角）都能自动获得有效的信任视界。 实验表明，实现的模型具有较小的轨道迁移残差，在14次轨道审计中中位数为1.1%，最大值为4.1%。认证也非空（中位认证-测量视界比为0.67）。 ## 实验验证与两种模式 论文通过两个实验展示了不同场景下的行为： 1. **对称2D基底**：等变模型、普通模型和增强模型都能从单个校准扇区获得轨道有效认证——没有分离，因为基底本身使非等变基线也近似具有轨道鲁棒性。 2. **3D偏航审计**：出现了另一种模式。等变模型通过一个扇区即可获得安全且非空的轨道有效认证，而健康的非等变基线则需要付出违规、松弛、尖锐化或额外扇区成本。 ## 局限与未来方向 作者指出，该认证是**保守的分布审计**（distributional audit），而非全局可达性保证。此外，在当前3D CEM-MPC行为层中，认证引导的子目标间距尚未得到确认，这为后续工作留下了空间。 ## 总结与启示 这项研究为世界模型的可信部署提供了理论支撑和实用工具。通过将共形预测与等变性结合，不仅提升了认证效率（只需一个扇区校准即可覆盖整个轨道），还显著降低了计算成本。对于那些依赖对称性（如旋转、平移）的机器人任务，该方法有望成为模型验证的标准组件。
## 研究背景：循环语言模型的监督困境 循环语言模型（Looped Language Models）通过将隐藏状态解码为预测并反馈到后续计算中，实现了运行时状态管理。然而，这种设计引发了一个基础问题：交叉熵损失究竟控制了哪些状态变量？近期一篇来自 arXiv 的论文（编号 2606.24898）揭示了**密集监督的局限性**——逐循环的交叉熵损失只能控制读出层暴露的变量，而非循环转换中活跃的所有变量。 ## 核心发现：隐藏状态规模的失控 研究团队在 44M 和 129M 参数的循环 Transformer 模型中发现，当使用 RMSNorm 或 LayerNorm 等**尺度不变读出机制**时，隐藏状态的范数会急剧膨胀至数千甚至数万。这是因为这些归一化操作隐藏了径向尺度信息，使得交叉熵损失无法直接感知和控制状态规模。而预归一化残差循环却持续携带并更新这一尺度，导致模型在训练过程中逐渐失控。 ## 解决方案：让尺度可见或消除循环 论文提出了两种互补的修复策略： 1. **尺度可见的读出**：使用不隐藏尺度的读出机制，让损失函数直接作用于状态范数。 2. **显式范数惩罚**：在损失中添加对隐藏状态范数的约束项。 实验表明，这些方法能将状态范数稳定在十位数级别。此外，**尺度消除的循环**（如采用归一化后的残差连接）也是一种有效的架构修复。 ## 设计规则与性能提升 研究总结出一条简洁的设计规则：**密集监督训练出口，循环尺度控制需要让尺度对损失可见或从循环中移除**。遵循这一规则的尺度控制变体，在可变深度基准测试中，于匹配推理深度的工作点上取得了更低的困惑度（perplexity）。 ## 行业意义 这项工作对当前流行的**早期退出**（early exit）和**循环计算**（recurrent computation）范式具有重要指导意义。它提醒研究者：简单的逐层交叉熵监督可能隐藏着状态失控的风险，而尺度控制是确保模型稳定性和性能的关键。未来，在设计和优化循环语言模型时，需要同时关注输出质量和内部状态的健康度。
## 核心突破：在传感器旁完成模型定制 近日，一篇发表于arXiv的论文提出了一种全新的**设备端神经架构搜索（On-Device NAS）**方法，将模型设计过程从云端下沉到部署设备本身。这项技术允许轻量级NAS算法直接在传感器所在的嵌入式系统上运行，根据实时采集的数据自动寻找最优的小型神经网络结构。 ## 为什么需要“自己设计”的模型？ 传统做法中，神经网络架构通常由开发者在服务器上预先设计并训练，再部署到边缘设备。但这种方式在面对**个体差异显著**的应用场景（如生物信号分析）时存在短板——不同用户的手势肌电信号、心率特征往往大相径庭，预训练模型难以泛化。论文提出的方法允许设备在用户更换后，通过一次引导式数据采集，**重新搜索并定制**最适合当前用户的网络结构，从而在边缘端实现真正的个性化适应。 ## 性能验证：更小、更准、更省内存 团队以**意大利手语（ISL）数据集**（包含意大利字母手势的表面肌电信号）和**凯斯西储大学（CWRU）轴承故障诊断数据集**作为验证基准，在Raspberry Pi 4等嵌入式平台上测试。结果显示： - **ISL任务**：设备端NAS搜索出的网络相比现有最优方案，**RAM占用减少37%**，同时**准确率提升5.96个百分点**。 - **CWRU任务**：RAM占用降低56%，准确率仍高出0.2个百分点。 这种“又小又准”的特性，对于资源受限的可穿戴设备、工业传感器节点等场景意义重大。 ## 技术实现：轻量级NAS如何“上机”？ 论文设计了一套专为设备端优化的NAS流程，核心思路是简化搜索空间并采用**权重共享**等高效策略，使得搜索过程在计算能力有限的MCU或Linux单板计算机上可完成。搜索结束后，设备直接部署找到的架构，无需与云端交互。 ## 应用前景与行业意义 这项研究将**个性化边缘AI**推进一步。在**人机交互**领域，智能假肢、手势控制设备可根据用户生理信号实时调整模型；在**工业预测性维护**中，不同工况下的振动信号也能驱动设备自优化。不过，论文未讨论搜索过程的能耗和延迟对实时性的影响，实际落地还需进一步验证。 总体而言，On-Device NAS为边缘AI的“自适应”能力提供了新范式，未来或将成为智能传感器的一项标配功能。
在AI辅助数学研究的讨论中，人们往往关注AI如何快速求解已知问题。但一项最新研究指出，AI在更早期的“问题形成阶段”可能发挥更关键的作用——当一个模糊的研究直觉被转化为具体问题、可行路径和值得证明的定理族时，AI的探索能力能显著加速这一过程。 这项发表于 arXiv 的研究以 **符号嵌入量子算法（sign-embedding quantum algorithms）** 的发现为案例，详细展示了人类与AI“共同发现”的工作流程。该算法针对矩阵方程和矩阵函数，是量子线性代数与算子输出量子算法的基础原语。项目的起点是人类研究者提出的一个直觉：**有理逼近对符号函数这类跳跃型函数特别有效**，因此可能成为设计量子算法的通用原则。 然而，从这一直觉到最终成型的算法框架并非一蹴而就。研究团队借助AI辅助探索工具（包括后来集成到 **AIM** 智能数学系统中的工作流），将初始直觉逐步扩展为一张完整的路线图。AI帮助比较了多种候选方案，最终引导团队聚焦于“符号嵌入”这一核心框架。随后，AIM系统进一步协助将已知的矩阵符号恒等式推广到更广泛的矩阵方程和矩阵函数类别，并草拟了证明与复杂度计算。 但研究强调，**决定性的科学判断始终由人类掌握**。例如，团队曾在探索中遇到一种“Cayley-梯形逼近”方案，AI给出了看似合理的推导，但人类研究者发现其有效性依赖于一个隐藏条件，最终将其否决。在实现Sylvester方程求解时，人类研究者将AI最初给出的粗略“二次间隙查询”路径，逐步优化为最终的分解与缩放分析。 这项研究的意义在于重新定义了AI在数学发现中的角色。**AI不是独立的问题解决者，而是研究伙伴**——它擅长问题形成、连接发现、推导草拟和怀疑性审查，但最终决策仍需嵌入人类的判断回路。这种“人类把关的协作循环”可能成为未来AI辅助科研的主流范式。 对于AI行业而言，这一案例也提供了重要启示：当前大模型在数学推理上的评测多聚焦于标准题库的准确率，但真正推动前沿进展的能力可能体现在更开放的探索场景中。如何设计能够参与“问题形成”阶段的AI系统，将是下一阶段的重要课题。
arXiv:2606.23741v1 Announce Type: new Abstract: Causal reasoning, which encompasses the discovery of causal structures and the inference of causal effects, is fundamental to data-driven decision making. In practice, data for reliable causal analysis are often distributed across institutions and cannot be centralized due to privacy regulations or communication constraints. Federated learning (FL) addresses this by enabling collaborative analysis without raw data sharing, giving rise to the rapidl
arXiv:2606.23830v1 Announce Type: new Abstract: Molecular surfaces encode the geometric and physicochemical patterns that determine antibody-antigen recognition, central to epitope prediction. However, existing methods rely on sequences or backbone structures and struggle to capture discontinuous, surface-driven epitopes. This study presents SurfBind, a surface-centric learning framework for epitope prediction that operates directly on molecular surface representations. SurfBind integrates geome
arXiv:2606.23767v1 Announce Type: new Abstract: Headline accuracies on the Tuebingen cause-effect pairs are routinely compared across papers even though each is measured under its authors' own protocol -- different pair subsets, weightings, model-selection, and decision rates. We argue this is the wrong comparison and run the right one: a same-hands re-evaluation in which every method is run by us on the identical 102 pairs, with one strict rule -- no tuning and a decision forced on every pair.
arXiv:2606.23758v1 Announce Type: new Abstract: Domain generalization learns from multiple source domains to generalize to unseen target domains. However, it often neglects the realistic case of label mismatch between source and target. Open set domain generalization is then proposed to recognize unseen classes in unseen domains. A simple approach trains one-vs-all classifiers to separate each class and detect outliers as unknown. Yet, the imbalance between few positive samples and many negative