SheepNav

AI 资讯

每日聚合最新人工智能动态

来源:HuggingFace清除筛选 ×

## 引言 城市交通拥堵中,**队列溢出**是一个严重问题——当车辆排队长度超过交叉口容量时,会阻塞上游交通,引发连锁式交通瘫痪。现有的交通信号控制(TSC)算法大多以优化通行效率为目标,在高峰时段往往无法有效应对溢出,反而加剧拥堵并带来安全隐患。 ## 方案:OverFlowLight 针对这一痛点,研究团队提出了 **OverFlowLight**,一个实时框架,旨在预防性地解决队列溢出并提升整体 TSC 性能。该框架首先利用摄像头和雷达的多模态感知,实时准确检测溢出状态。一旦检测到溢出,系统会动态生成并插入专用溢出相位到信号周期中,以清除阻塞队列。其核心是**混合控制设计**:快速基于规则的溢出干预与强化学习等控制器后端相结合,兼顾短期应急和长期效率。 ## 实际部署与效果 研究团队在 **三个主要城市的 43 个交叉口** 进行了大规模真实部署。结果表明,与现有基线相比,OverFlowLight 将溢出事件减少了 **60.4%**,网络通行能力提升了 **18.2%**。同时,它大幅减少了专家调优信号方案所需的人工干预。 ## 行业意义 这项工作首次提出了一个**实用、可扩展、数据驱动**的主动预防交通瘫痪框架,为构建韧性与高效的城市交通系统提供了关键组件。其模块化设计可无缝集成到现有基于强化学习的 TSC 系统中,具有良好的实际应用前景。

HuggingFace17天前原文

计算机视觉领域广泛使用的RANSAC(随机采样一致性)算法,其核心步骤——模型评分——长期依赖一个关键参数:**内点尺度**(inlier scale)。该参数需要用户预先设定,或从被污染的数据中估计,而估计本身又容易受异常值干扰,形成“先有鸡还是先有蛋”的困境。近日,来自德国基尔大学等机构的研究者在arXiv上提交了一篇论文,提出了一种**真正摆脱内点尺度依赖**的新型RANSAC评分方法,为这一经典问题提供了优雅的数学解。 ## 核心创新:从“估计尺度”到“边缘化尺度” 传统RANSAC变体(如MSAC、MAGSAC)的评分函数,无论是简单的内点计数还是带饱和函数的逐点得分,都隐含或显式地依赖于一个阈值参数,该参数本质上是内点尺度的函数。新方法的关键思路是**反转推理顺序**:不再先估计尺度再用其评分,而是通过共轭先验(Inverse-Gamma分布)将内点尺度在闭合形式下解析地边缘化(marginalize),然后直接优化数据划分(即哪些点是内点)。 这一数学处理带来了几个显著优势: - **单一公式覆盖多种先验**:从无信息的Jeffreys先验到有信息的经验贝叶斯先验,同一个评分函数可以自适应地切换,无需修改算法。 - **计算高效**:评分函数可通过排序扫描(sort-and-sweep)实现 **O(N log N)** 的复杂度,与经典方法相当。 - **参数真正“消失”**:这是第一个在评分公式中完全不出现内点尺度的RANSAC变体。 ## 实验验证:近7万图像对上的全面碾压 研究团队在包含近7万对图像的基准测试上进行了评估,覆盖了多种双视图估计问题(如基础矩阵、本质矩阵、单应矩阵估计),并使用手工特征(SIFT)和深度学习特征(SuperPoint+SuperGlue)两种管线。结果令人印象深刻: 1. **阈值误标定下的鲁棒性**:当用户提供的阈值偏离真实值时,传统方法(RANSAC、MSAC、GaU、MAGSAC)的准确率急剧下降,而新方法的性能**几乎保持平坦**。 2. **极低数据量下的高效性**:在仅用**2对验证点**进行模型选择时,新方法即可达到接近最优的精度,而基线方法通常需要**约100倍**的验证数据。 3. **先验正则化的自适应收紧**:当验证数据稀缺时,评分函数会自动加强先验的正则化作用,防止过拟合。 ## 行业意义与未来展望 RANSAC自1981年提出以来,一直是计算机视觉中鲁棒估计的基石。其评分环节的尺度依赖问题虽被长期认知,但始终缺少一个既理论严谨又计算可行的解决方案。这项工作不仅从数学上填补了这一空白,更在实用层面展示了巨大的潜力: - **降低用户调参门槛**:对于非专业用户,无需再为不同场景手动调整内点阈值。 - **提升自动化管线稳定性**:在SLAM、三维重建、视觉定位等需要大量自动处理的系统中,一个对参数不敏感的评分函数能显著减少故障率。 - **适应数据稀缺场景**:在只有少量匹配对的极端条件下(如纹理匮乏或视角剧烈变化),新方法仍能可靠工作。 当然,论文也指出该方法目前主要在双视图几何估计上验证,未来可以扩展到更复杂的多视图问题。此外,边缘化框架理论上也适用于其他需要阈值参数的任务,如点云配准中的RANSAC变体。 总的来说,这项研究以简洁的数学形式解决了RANSAC领域一个存在四十余年的痛点,堪称“评分问题”的终极解法。对于计算机视觉从业者而言,这是一个值得密切关注并尝试集成到现有管线中的新工具。

HuggingFace17天前原文

时间序列分析是机器学习的重要分支,广泛应用于金融、气象、物联网等领域。自 2020 年首次发布以来,**Darts** 已成为最受欢迎的开源 Python 时间序列库之一。然而,随着 Chronos-2、TimesFM 2.5、TiRex、PatchTST-FM 等基础模型相继涌现,零样本预测能力显著提升,却因接口碎片化、缺乏互操作性而难以集成。 近日,Darts 团队在 arXiv 发布论文《Unified Zero-Shot Time Series Forecasting: A Darts Foundation》,提出统一 **FoundationModel** 类集合,将上述主流基础模型封装为标准化接口,实现“只需改个名字”即可在现有 Darts 流水线中调用。 ## 零样本预测的范式转移 传统时间序列预测需要针对每个数据集训练定制模型,成本高、泛化差。基础模型通过海量数据预训练,可直接用于未见过的任务,无需微调即可取得竞争性结果。但问题在于:每个模型都有独立的 API、预处理逻辑和输出格式,用户被迫在多个代码库间切换。 ## Darts 的解决方案 Darts 的 FoundationModel 类提供了**全周期预测接口**,涵盖零样本推理、微调、不确定性估计和回测。用户只需将模型名称从 `ARIMA` 改为 `Chronos-2`,即可体验零样本能力。新流水线也能无缝集成数据处理与评估工具。 论文以 Chronos-2、TimesFM 2.5、TiRex、PatchTST-FM 为例,展示了统一框架如何降低使用门槛。例如,在能源负荷预测任务中,零样本模型的表现已接近甚至超越领域专用模型,且无需重新训练。 ## 行业意义与未来 这项工作的核心价值在于**生态整合**。Darts 作为已有庞大用户基础的库,其统一接口有望加速基础模型在工业界的落地。未来,更多模型(如 Lag-Llama、MOMENT)可能被纳入,推动时间序列预测向“预训练+零样本”范式全面转型。 对于开发者而言,这意味着更少的代码、更高的复用性;对于业务方,则意味着更快地从数据中获取洞察。基础模型不再是孤立的“黑盒”,而是可组合、可评估的标准化组件。

HuggingFace17天前原文

蛋白质结构预测的基础模型(如AlphaFold、Boltz-2)在生物分子结构预测和设计方面展现了惊人能力,但模型内部特征如何驱动输出仍是一个难题。标准稀疏自编码器(SAE)在Transformer序列嵌入上表现良好,但无法直接应用于Pairformer架构——对成对表征进行朴素操作会导致特征数量二次爆炸,并掩盖跨序列和成对表征分布的概念。 来自哈佛医学院、MIT等机构的研究人员提出了**PairSAE**,一种专门为Pairformer架构设计的机械可解释性方法。PairSAE通过**N模式奇异值分解(N-mode SVD)**将成对张量总结为“token级交互角色”,然后使用稀疏自编码器学习一组共享的token级特征,这些特征可以解码回序列和成对表征。 在**Boltz-2**模型处理**PLINDER蛋白质-配体复合物数据集**的激活值上评估,PairSAE能够提取出与**UniProt注释**对齐的可解释特征,并预测Boltz-2的亲和力值。这表明PairSAE成功将结构生物学基础模型的潜在空间与可解释的结构概念联系起来,阐明了模型“知道什么”,同时避免了传统SAE在Pairformer架构中遇到的陷阱。 该研究已被**机器学习结构生物学研讨会(MLSB 2025)**接收。 ## 核心挑战:为什么标准SAE在Pairformer上失效? 蛋白质共折叠模型(如Boltz-2)使用**Pairformer架构**,其核心是处理成对表征——即描述每对残基(或原子)之间相互作用的张量。这种表征天然是二次的(N×N),并且与序列表征(1D)深度耦合。 标准SAE假设特征可以独立地从单一模态嵌入中学习,但直接应用于成对表征时面临两个问题: 1. **二次爆炸**:如果对每个成对元素独立学习特征,特征数量会随序列长度平方增长,计算和存储开销巨大。 2. **概念割裂**:许多生物概念(如结合位点)同时涉及序列信息和成对交互信息,标准SAE无法联合建模这种分布式表征。 ## PairSAE:两步走,让成对表征“透明化” PairSAE的核心思想是将高维成对张量压缩为token级的低维“交互角色”,再通过SAE学习共享特征。具体分为两步: ### 1. N模式SVD降维 将成对张量视为一个三维张量(token×token×特征通道),通过N模式SVD将其分解为三个因子矩阵。其中,token模式上的因子矩阵提供了每个token的“交互角色向量”,这些向量编码了该token与其他所有token的交互模式。通过保留前k个奇异值,实现了从O(N²)到O(Nk)的压缩(k远小于N)。 ### 2. 共享稀疏自编码器 将token级角色向量与序列表征拼接,输入到一个稀疏自编码器中。该自编码器学习一组稀疏的、可解释的token级特征,这些特征同时解码回序列表征和成对表征。由于特征是在token级别学习的,它们自然地捕捉了跨模态的分布式概念(如“这是一个结合口袋残基”)。 ## 实验验证:特征对齐与亲和力预测 研究者在**Boltz-2**模型(蛋白质-配体共折叠模型)上测试了PairSAE,使用**PLINDER数据集**(包含数千个蛋白质-配体复合物)。 - **特征可解释性**:PairSAE学习到的特征与**UniProt**数据库中的功能注释(如“活性位点”、“金属结合位点”)高度对齐。例如,某个特征在配体结合残基上激活强度显著高于其他残基。 - **亲和力预测**:将PairSAE的特征作为输入,训练一个线性模型预测Boltz-2输出的亲和力值,取得了较高的相关性(R²≈0.65),表明这些特征捕捉了与结合强度相关的关键信息。 ## 意义与展望 PairSAE为结构生物学基础模型的可解释性提供了新工具。它不仅帮助研究者理解模型预测的分子机制,还可能指导蛋白质设计:通过识别与特定功能相关的特征,可以更有针对性地优化序列。 未来工作可以扩展到更复杂的多聚体系统,或与蛋白质设计方法结合。该研究也提示,针对特定架构设计可解释性方法至关重要——通用方法可能因架构差异而失效。 ## 小结 - PairSAE通过N-mode SVD和共享SAE,成功对Pairformer架构的成对表征进行可解释性分析。 - 在Boltz-2上提取的特征与生物注释对齐,并能预测亲和力。 - 方法避免了标准SAE在成对表征上的二次爆炸和概念割裂问题。

HuggingFace17天前原文

## 概览 在优化、贝叶斯推断和科学计算领域,寻找多模态黑箱函数的所有模态(即局部最优解)是一个基础性挑战。传统方法如盆地跳跃(basin-hopping)、CMA-ES、多起点梯度下降等通常以顺序方式运行,无法充分利用现代GPU的大规模并行计算能力。为此,研究者提出了一种名为 **Chisao**(Convergence-Halt-Invert-Stick-And-Oscillate)的GPU原生群体优化器,旨在通过一种巧妙的**收敛-反收敛振荡循环**来同时探索多个局部最优解,并有效避免陷入局部陷阱。 ## 核心创新 Chisao的核心设计思想是“不对称”:在优化过程中,样本群体中的一部分样本在达到真实峰值时会被“冻结”(即固定下来)并保留,而其余样本则继续通过基于动量的反收敛机制和随机平滑梯度进行探索。这种设计确保了已发现的模态不会被后续迭代破坏,同时保持了对未探索区域的搜索能力。 为了维持群体多样性,Chisao引入了两种互补的自适应重采样策略:**Repulse Monkey**(斥猴策略)和 **Golden Rooster**(金鸡策略)。前者通过排斥已收敛样本周围的点来避免重复搜索,后者则随机注入新样本以增加多样性。 ## 性能表现 在Simon Fraser大学优化基准套件的全部42个函数上,覆盖维度 $d \in \{2, 4, 8, 16, 32, 64\}$,Chisao实现了以下突破: - **100%模态恢复率**:在最具挑战性的多模态函数上,当维度 $d \geq 8$ 时,所有CPU基线方法均失效,而Chisao依然能100%找到所有模态。 - **显著加速**:在所有方法都能成功的函数上(如Michalewicz函数,$d=64$),Chisao比盆地跳跃方法快 **34倍**;在单模态函数上(如Rotated Hyper-Ellipsoid,$d=64$),纯GPU带来的加速比高达 **39倍**。 - **噪声鲁棒性**:在似然噪声标准差高达1.0的情况下,模态检测依然保持100%可靠。 值得注意的是,所有基准测试均仅通过函数值进行评估(梯度通过有限差分计算),因此报告的加速比代表了无导数情况下的最差表现,实际使用中若利用自动梯度,性能可能更高。 ## 行业意义 Chisao的出现为高维、多模态黑箱优化问题提供了一种全新的并行解决方案。传统方法在高维空间中往往遭遇“维度灾难”,而Chisao通过GPU并行和独特的振荡机制,有效缓解了这一问题。该算法已在PyPI上以独立开源Python包的形式发布,有望在机器学习超参数调优、科学计算中的参数反演、贝叶斯推断中的后验采样等领域发挥重要作用。 ## 总结 Chisao通过GPU原生并行和收敛-反收敛振荡设计,在多模态黑箱优化中实现了100%模态恢复和数十倍的加速,为高性能计算与优化算法的结合提供了新思路。

HuggingFace20天前原文

### 研究背景:从趋光性中窥见生命的信息获取策略 单细胞藻类的**趋光性**(phototaxis)通常被简化为“跑-转”(run-tumble)的机械式刺激-响应过程:细胞感知光照变化后,调整运动方向以趋向光源。然而,这种经典模型忽略了关键一环——生物体如何在**噪声和不完整信号**下主动采样环境,以减少感知模糊性? 来自巴黎索邦大学等机构的研究团队,在 arXiv 上提交的一项新研究中,从**最小认知**视角出发,提出了一个将**部分可观测马尔可夫决策过程(POMDP)**与**化学反应网络(CRN)**动力学相融合的框架,重新定义了细胞趋光行为。该研究已被 ALIFE 2026 会议接收为口头报告。 ### 核心方法:POMDP 与 CRN-ODE 的跨界融合 研究的关键创新在于:将细胞视为一个**主观、信息驱动的感知-运动系统**。环境状态对细胞是隐藏的,细胞只能通过每次观测(如光强信号)更新内部状态,这一更新过程采用**无记忆贝叶斯步骤**,并可通过**化学反应网络常微分方程(CRN-ODE)**实现。 具体来说,模型包含一个**生物物理观测过程**(模拟光感受)和一个**化学可计算的多项式上界**(用于度量信息增益)。细胞内部动力学需要平衡两个目标:向光源定向运动(利用)与探索性重定向(探索)。这种平衡天然地体现了**好奇心驱动**的信息采集策略。 ### 实验验证:从真实轨迹中逆向学习行为目标 团队利用**逆强化学习(IRL)**方法,对 30 条实验记录的**衣藻(Chlamydomonas)**运动轨迹进行分析,逆向推断了与观测趋光运动一致的行为目标函数。随后,他们将模型生成的动态与标准**随机模拟算法(SSA)**基线进行对比。 结果表明,该模型能够复现实验中的**光照对齐分布**,其表现与基于 SSA 的客观基线相当。更重要的是,模型揭示了**“跑-转”交替模式本质上是信息获取策略**:当细胞转向(tumble)时,它实际上是在重新定向以采样新的感官配置,从而解决现有感知的模糊性。 ### 意义与展望:化学计算中的强化学习 这项工作首次展示了**细胞内生化网络如何支持自适应信息寻求行为**。它将强化学习的思想嵌入到化学反应网络的物理约束中,为理解生命系统在分子层面的“决策”提供了新工具。 未来,该框架有望应用于合成生物学,设计具有**自主探索能力**的微型化学机器人,或为开发**生物启发的低功耗感知系统**提供理论基石。 ### 小结 - **问题**:传统趋光模型忽视主动信息采样。 - **方法**:POMDP + 化学反应网络 ODE + 逆强化学习。 - **发现**:跑-转行为是降低感知不确定性的信息采集策略。 - **意义**:架起强化学习与生化网络之间的桥梁。 论文链接:[arXiv:2606.26168](https://arxiv.org/abs/2606.26168)

HuggingFace20天前原文

近日,一篇发表于《Applied Sciences》的综述论文对**神经架构搜索(NAS)在生成对抗网络(GAN)中的应用**进行了全面回顾与批判性分析。该论文由Abrar Alotaibi和Moataz Ahmed撰写,系统梳理了NAS-GAN领域的研究现状,为自动化设计高性能GAN架构提供了重要参考。 ## 核心发现:NAS如何赋能GAN? GAN的训练以不稳定和手工调参繁琐著称。NAS通过自动化搜索最优网络结构,显著提升了GAN的**性能、稳定性和效率**。论文指出,**进化算法和基于梯度的方法**在特定场景下表现尤为突出,例如进化算法擅长探索全局结构,而梯度方法在计算效率上更有优势。 ## 评估指标的演进 传统评估GAN生成质量时,常依赖**Inception Score(IS)和Fréchet Inception Distance(FID)**。但论文强调,这些指标存在局限性,例如IS对模式坍塌不敏感,FID受限于特征提取器。研究呼吁开发更**鲁棒的评估指标**,并建议使用**多样化数据集**来全面衡量GAN性能。 ## 未来研究方向 尽管NAS在GAN优化中展现了巨大潜力,论文也指出了若干开放挑战: - **搜索效率**:现有方法计算成本仍然较高,需要更轻量的搜索策略。 - **泛化能力**:针对特定数据集优化的架构如何迁移到新任务? - **理论支撑**:NAS为何能提升GAN稳定性的理论解释尚不充分。 ## 对AI社区的意义 这篇综述为研究人员提供了清晰的NAS-GAN技术图谱,有助于避免重复劳动,并启发下一代自动化生成模型的设计。随着生成式AI的爆发式增长,NAS与GAN的结合有望在图像合成、数据增强、创意设计等领域释放更大价值。

HuggingFace20天前原文

## 概述 抗菌药物耐药性(AMR)是全球公共卫生的重大威胁。基于全基因组测序(WGS)的AMR预测模型虽已取得高准确率,但往往缺乏对预测结果背后生物学机制的解释能力。近日,一项发表于arXiv的研究提出了**KG-TRACE**,一种新颖的神经符号(neuro-symbolic)框架,旨在将神经网络的归因与已知的生物学知识相结合,为临床决策提供可验证的审计线索。 ## 核心方法 KG-TRACE的核心创新在于将**世界卫生组织(WHO)的突变知识图谱**作为结构化生物学约束,整合到神经基因组模型中。具体而言,该框架通过以下步骤实现: 1. **特征融合**:同时提取基因组特征和基于RotatE方法的知识图谱嵌入(KG embeddings)。 2. **动态加权**:引入一个可学习的**认知信任门(epistemic trust gate)**,根据输入样本动态调整神经证据与符号生物学知识之间的权重。 3. **不确定性处理**:当神经证据与知识图谱冲突时,系统会发出“不确定”标记,提示需要实验室复核,从而识别可能的**多重耐药性共现伪影**。 ## 实验验证 研究团队在**CRyPTIC结核分枝杆菌队列**上对KG-TRACE进行了评估。结果表明: - 对于异烟肼耐药性预测,模型取得了**AUROC 0.9760**的竞争性准确率。 - 更重要的是,模型在**符号覆盖度**上表现突出:92.5%的异烟肼耐药预测能够映射到已知的生物学路径。 - 为了量化这种对齐,作者提出了**生物学归因比(Biological Grounding Ratio, BGR)**,一个衡量神经网络归因与已有生物学知识一致性的数据集级指标。 ## 意义与展望 KG-TRACE的主要价值并不在于预测精度的提升(尽管其精度已具有竞争力),而在于**为黑箱模型提供了可解释性**。在临床环境中,医生往往需要了解模型为何做出某项预测,而非仅仅得到一个概率值。KG-TRACE通过将预测与具体的基因突变知识关联,建立起一条从数据到临床信任的桥梁。 这一工作也代表了**神经符号方法在生物医学领域的典型应用**:将数据驱动的深度学习与人类积累的符号知识相结合,既保留神经网络的学习能力,又赋予模型推理和解释的透明度。未来,类似的框架有望在药物发现、精准医疗等领域发挥更大作用。 > 论文信息:KG-TRACE: A Neuro-Symbolic Framework for Mechanistic Grounding in Antimicrobial Resistance Prediction,arXiv:2606.26179,2026年6月提交。

HuggingFace20天前原文

**洗钱团伙发现(MLGD)** 旨在从大规模金融网络中识别隐藏的犯罪集团并还原其完整结构。然而,现有方法存在明显局限:图异常检测方法主要产出节点级风险告警,而全局团伙发现方法则被动地在全网络搜索可疑群体——两者都与真实的反洗钱(AML)调查流程脱节。在实际调查中,分析师通常从一个具体线索出发,逐步扩展调查范围,最终还原出完整的犯罪团伙。 为填补这一空白,来自的研究团队提出了 **线索引导的团伙发现(CGGD)** 范式,并设计了 **Clue2Group** 框架。该框架首先构建一个紧凑的局部调查上下文,以减少噪声并保留链状和环状的洗钱结构;然后利用多语义局部-时间图神经网络(GNN)估计线索条件下的局部风险场;最后综合风险、结构和先验模式证据,恢复出一个连贯的洗钱团伙。 在两个大规模AML基准上的实验表明,Clue2Group 为AML调查提供了一种实用的线索驱动分析框架,是弥合基于图的AML研究与真实调查工作流之间差距的可行一步。该工作发表于 arXiv:2606.26189,属于机器学习(cs.LG)领域。 ### 为什么现有方法“水土不服”? 传统AML方法主要分为两类: - **节点级异常检测**:标记高风险账户或交易,但无法揭示团伙层面的协作模式。 - **全局团伙发现**:在全图上搜索异常子图,但计算成本高,且易受噪声干扰,难以与分析师手中的具体线索结合。 这两种方式都假设分析师“大海捞针”,而现实中AML调查往往是“顺藤摸瓜”——从一个已知可疑账户或交易出发,逐步扩展。Clue2Group 正是模拟了这一过程。 ### Clue2Group 的核心技术细节 1. **局部上下文构建**:以初始线索为中心,提取包含多跳邻居的子图,同时过滤无关边,保留洗钱网络中常见的链式(如层层转账)和环式(如循环交易)结构。 2. **条件风险场估计**:使用多语义局部-时间GNN,同时建模交易的时间动态和多种语义关系(如交易金额、频率、账户类型),输出每个节点在给定线索下的风险评分。 3. **证据融合与团伙恢复**:将风险评分、图结构特征(如连通性、中心性)和已知洗钱模式(如资金快速进出、分层结构)作为约束,通过优化算法选出最可能构成团伙的节点集合。 ### 实验结果与行业意义 在公开的AML数据集上的测试显示,Clue2Group 在召回率和精确率上均显著优于现有基线方法,尤其是在线索稀疏或噪声较高的情况下。更重要的是,该框架提供了可解释的中间结果(如局部风险热力图),便于分析师理解模型推理过程。 这项工作标志着 **AML 研究从“全图搜索”向“线索交互”的范式转变**。未来,结合人机交互的迭代式分析方法有望成为反洗钱系统的新标准。 ### 局限与展望 当前版本假设线索是已知的且准确无误,但实际中线索可能存在误报。未来工作可探索线索不确定性的建模,以及多线索融合的扩展。此外,将 Clue2Group 集成到现有AML工作流中,仍需解决实时性和可扩展性问题。

HuggingFace20天前原文

随着数据隐私法规日益严格,如何在保护用户数据的同时实现高效的机器学习模型训练,成为行业核心挑战。近日,一篇发表于 arXiv 的论文《Federated Hash Projected Latent Factor Learning》(FHPLF)提出了一种创新框架,将哈希学习与联邦学习深度融合,在降低通信开销、增强隐私保护的同时,显著提升了模型精度。 ## 背景:哈希学习与联邦学习的天然互补 哈希学习(Hash Learning, HL)能将高维实数数据映射为紧凑的二进制码,极大节省存储和计算资源。然而,传统 HL 方法依赖中心服务器收集用户原始数据,这直接违反了 GDPR 等隐私法规。联邦学习(Federated Learning, FL)虽能解决数据集中化问题,但其在客户端与服务器间传输的是**大规模实数梯度**,不仅通信负担沉重,还面临梯度泄露导致的隐私风险。 将 HL 与 FL 结合看似是理想方案——用二进制码替代实数梯度,既能降低通信量,又能增加隐私性。但现有方法存在一个关键瓶颈:**二进制码的表示能力有限**,导致模型精度下降。FHPLF 正是针对这一痛点而设计。 ## FHPLF 的三项核心创新 1. **二进制梯度替代实数梯度**:FHPLF 用**二进制梯度矩阵**取代传统的实数梯度矩阵。这一转换直接减少了计算、存储和通信成本,同时因为传输的是二进制码而非原始梯度,攻击者难以从中还原用户数据,隐私保护能力自然增强。 2. **投影汉明距离建模**:传统哈希方法在计算相似度时通常平等对待所有二进制位,忽略了不同位的重要性差异。FHPLF 引入**投影汉明距离**(Projected Hamming Distance),通过为每个二进制位分配权重,捕捉其对于最终表示的重要性,从而显著提升二进制码的表示能力,弥补精度损失。 3. **安全二进制梯度重组与隐私增强上传策略**:为进一步防止用户交互信息在传输过程中泄露,FHPLF 设计了 **SBG-PEU** 策略。该策略在客户端对二进制梯度进行重组和扰动,确保即使通信信道被监听,攻击者也无法重建原始梯度模式。 ## 实验结果:精度、效率与隐私的“不可能三角”被打破 论文在四个真实世界数据集上进行了广泛实验,对比对象包括当前最先进的 HL 和 FL 方法。结果显示,FHPLF 在**分类准确率、通信效率与隐私保护强度**三个维度上均取得最优或接近最优的表现。具体而言: - 相比传统 FL 方法,FHPLF 减少了 **80% 以上的通信量**; - 相比现有联邦哈希方法,精度提升 **5%~12%**; - 隐私攻击模拟表明,SBG-PEU 策略能有效防御梯度反演和成员推断攻击。 ## 行业意义与未来展望 FHPLF 的出现为边缘计算、移动设备协作学习等资源受限且隐私敏感的场景提供了可行方案。例如,在**医疗影像分析**中,多家医院可联合训练模型而不共享患者数据;在**个性化推荐**中,用户手机可本地计算二进制梯度,仅上传加密后的码字。 不过,论文目前仅在图像分类任务上验证,未来可探索在 NLP、图数据等领域的扩展。此外,如何进一步降低二进制码的量化误差,仍是值得深究的方向。 总体而言,FHPLF 在联邦哈希学习领域迈出了坚实一步,证明了通过精巧的算法设计,精度、效率与隐私三者可以兼得。

HuggingFace20天前原文

近日,一篇发表于 arXiv 的研究论文提出了一种基于注意力机制的物理引导卷积神经网络(PG-CNN),作为传统数值求解器的高效替代方案,用于预测守恒动力学系统中的微结构演化。该模型以 Cahn-Hilliard 方程描述的二元混合物相分离过程为测试案例,展示了在长期演化预测中的稳定性与准确性,并成功复现了 Lifshitz-Slyozov 畴生长定律。 ## 背景与挑战 许多物理、化学和生物系统的时空演化由非线性偏微分方程(PDE)描述。传统数值方法虽精确,但计算成本高昂,尤其在大规模或长时间模拟中。近年来,基于深度神经网络的代理模型因其高效性受到关注,但如何保证长期预测的物理一致性仍是难题。 ## 模型设计亮点 研究团队提出的 PG-CNN 融合了**物理先验**与**注意力机制**: - **卷积结构**:捕捉微结构空间特征,适用于图像类数据(如相场模拟结果)。 - **物理引导**:通过损失函数嵌入守恒定律(如总组分守恒),确保预测符合物理约束。 - **注意力模块**:增强模型对关键演化阶段的聚焦能力,提升长时程预测的稳定性。 ## 核心结果 ### 1. 长期预测稳定性 在临界和离临界混合物的测试中,模型在长时间滚动预测中均保持稳定,未出现发散或非物理解。尤其重要的是,**混合物组分在演化全程被精确保持**,这直接体现了物理引导的有效性。 ### 2. 畴生长定律复现 模型预测的畴尺寸随时间增长符合经典的 **Lifshitz-Slyozov 幂律**(t^{1/3}),这是扩散控制相分离的标志性特征。这一结果验证了代理模型不仅“拟合”数据,还学到了背后的物理机制。 ### 3. 泛化能力 尽管仅在 Cahn-Hilliard 方程数据上训练,但框架设计具有通用性。作者指出,该方法可扩展至其他守恒动力学系统(如 Spinodal 分解、有序-无序转变等),为复杂系统模拟提供新工具。 ## 行业意义与展望 此项研究代表了**AI for Science**领域的一个典型进展:用数据驱动模型加速传统物理模拟,同时通过物理约束保证可靠性。相比于纯黑箱模型,物理引导方法在材料科学、流体力学、生物物理等领域具有更高的可信度。 未来,类似框架可能进一步结合多尺度建模或实验数据,实现“数字孪生”级别的实时预测。不过,当前模型是否适用于非守恒动力学(如反应-扩散系统)或强非线性条件,仍有待验证。 > 论文链接:arXiv:2606.26128

HuggingFace20天前原文

## 温度归零并非万能:LLM-as-Judge 安全评估中的可重复性困境 在 AI 安全评估中,**LLM-as-Judge**(以大语言模型作为裁判)组件已成为标准配置,其给出的“通过/不通过”判决直接影响模型是否能够部署。业界普遍认为,将裁判模型的采样温度设为 0 即可保证评分结果确定性。然而,日本 AI 安全研究所(Japan AISI)在开源评估框架 **aisev** 中的实测发现:这一假设在真实场景中并不成立。 ### 两大层面的“失效” 研究团队对 aisev 框架进行了系统性测试,暴露了温度控制的两层问题: 1. **默认温度陷阱**:框架调用裁判模型时,并未显式设置 temperature 或 seed 参数,底层 API 提供商静默使用默认值 1.0。这意味着,对于决策边界附近的样本,多次运行结果可能截然相反——在 20 次重复运行中,**单个样本的“通过/不通过”不一致率高达约 50%**。 2. **强制贪婪解码仍不完美**:即便将 temperature 设为 0,并配合 top_k=1 的强制贪婪解码,在 690 次 API 调用(覆盖两家提供商、三个模型层级、五种采样配置)中,**仍有 1-2 个边界样本(共 7 个)无法复现**。更棘手的是,**Claude Opus 4.7/4.8 已完全弃用 temperature 参数**,这意味着针对旧模型的温度控制手段在新模型上根本无从使用。 ### 结构性问题:把噪声当成安全属性 论文指出,当前评估框架存在一个结构性缺陷:**仅报告单次运行的判决结果,而不提供方差或裁判分歧度指标**。这种做法可能将随机噪声误读为模型的安全属性。例如,同一模型在两次评估中分别获得“通过”和“不通过”,若只看单次结果,就会得出截然不同的安全结论。 ### 行业启示与建议 研究团队建议,评估框架应将**裁判分歧度**作为与评分同等重要的健康指标。同时,他们开源了包含 690 次调用、7 种条件的复现测试工具,供社区验证。 这一发现对 AI 安全治理具有直接冲击:在模型部署前,若仅依赖单次 LLM-as-Judge 的判决,可能遗漏重大安全风险。**温度控制是必要手段,但绝非充分条件**——评估流程需要更严谨的统计设计和透明度。

HuggingFace20天前原文

近日,一篇发表在 arXiv 上的综述论文《LLM Evolution as an Industry-Scale Ecosystem: A Lifecycle Perspective on Continual Learning》提出了一个全新的视角:将工业级大语言模型(LLM)的持续学习视为一个**闭环的更新与发布问题**,而非传统研究中关注的静态基准改进。 ## 从静态基准到工业生态 当前大多数持续学习研究聚焦于在固定数据集上提升模型性能,但这与工业部署的实际情况严重脱节。在真实场景中,LLM 需要不断更新以适应变化的需求和环境,而不是每次从头重新训练。论文作者将工业持续学习(ICL)重新定义为版本化生态系统中的闭环问题——更新会分层传播到工业模型、特定应用模型以及基于 LLM 的应用中,能力在不同版本和模型家族间继承与迁移。 ## 三大核心挑战 从生态视角出发,论文识别出三个关键挑战: - **重复适应导致可塑性下降**:模型在多次更新后可能丧失学习新能力的能力; - **基础模型升级破坏能力继承**:当底层基座模型更新时,上层应用模型的能力可能无法平滑迁移; - **长期可持续性受部署约束**:算力、延迟、合规等实际限制使得持续迭代难以持续。 ## 五大生命周期设计原则 为应对这些挑战,论文围绕五个设计原则组织技术图谱: 1. **保留可塑性余量**:在训练中为未来学习预留空间; 2. **将升级视为能力迁移**:而非简单替换; 3. **实现可信的持续强化学习**:确保更新过程安全可控; 4. **让训练策略自我优化**:自动调整超参数与数据配比; 5. **将问责制作为迭代基座**:建立可追溯的版本管理与审计机制。 ## 现状与未来路径 论文通过证据驱动的方式评估了每个原则的技术成熟度,指出当前研究在**可塑性保持**和**能力迁移**方面已有一定进展,但在**可信强化学习**和**自我优化训练策略**上仍存在明显缺口。作者还提出了一份实用的 ICL 部署蓝图,并呼吁学术界更多关注工业实际反馈,形成双向驱动的良性循环。 这项研究为 LLM 的持续演进提供了系统化的理论框架,对希望在生产环境中长期维护和迭代大模型的企业具有重要参考价值。

HuggingFace21天前原文

随着分布式能源(DER)在电力系统脱碳中扮演越来越重要的角色,如何有效协调这些资源成为关键挑战。DER 固有的不确定性和建模复杂性,使得传统优化方法力不从心。强化学习(RL)虽被视为有前景的替代方案,但标准 RL 方法存在样本效率低、从零训练效果欠佳等痛点。 受大语言模型训练范式的启发,研究人员提出了一种**监督式强化学习(SRL)框架**,用于学习 DER 协调策略。该框架首先在演示数据上以监督学习方式预训练策略,然后使用 RL 进行微调。具体而言,微调分为两步:**离线微调**以提升策略性能,**在线微调**以使其适应真实世界动态。 实验表明,基于该框架的 RL 实现显著优于所有基线,即使在低质量演示数据下也能实现高成本效益。该研究为 DER 管理提供了全新思路,有望推动可再生能源的高效整合。

HuggingFace21天前原文

机器学习中一个基本但缺乏理论指导的问题是:何时停止收集标注样本?一篇来自 arXiv 的新论文提出了 **饱和指数 $S(K)$**,用于衡量小样本分类中模型性能是否已趋于稳定,为标注决策提供了理论依据。 ### 核心概念:饱和指数 饱和指数定义为 $S(K) = \operatorname{erank}(\widehat{\Sigma}_W^{(K)}) / K$,其中 $\operatorname{erank}$ 表示有效秩,$\widehat{\Sigma}_W^{(K)}$ 是 $K$ 个样本的池化类内协方差矩阵。论文证明,当 $S(K)$ 低于某个阈值时,协方差估计量已很好地逼近总体协方差,线性判别函数趋于稳定。该指数仅需支持特征即可在 $O(d^3)$ 时间内计算,无需测试标签或训练好的分类器。 ### 实验验证 研究者在 **17 个二元任务、6 个数据集** 上进行了评估,共 246 次加倍对观测。结果显示: - **16/17 个任务** 中,$S(K)$ 与边际准确率增益呈正 Spearman 相关(中位数 $\rho = 0.811$)。 - 总体 Spearman 相关系数为 $\rho = 0.548$($p = 1.1 \times 10^{-20}$)。 基于 $S(K)$ 值,论文定义了 **三阶段相图**: - **探索阶段**:边际增益平均 $3.48\%$ - **过渡阶段**:边际增益平均 $2.40\%$ - **饱和阶段**:边际增益平均 $0.82\%$ 所有两两显著性检验均支持该划分($p \leq 0.008$)。 ### 应用价值 作为二元停止规则,饱和指数的 AUC 达到 **0.752**,可为标注决策提供有意义的概率指导。此外,论文发现任务间渐近有效秩与峰值准确率无显著单调关系(Spearman $r_s = 0.380$, $p = 0.133$),而 **低饱和指数搭配低准确率** 可诊断表征能力不足。 ### 局限与展望 当前结果仅适用于固定线性分类器的二元分类。作者讨论了向 **N 路分类** 和 **预训练骨干表征** 的扩展作为未来工作。这项工作为小样本学习中的样本效率问题提供了理论工具,有望降低标注成本。

HuggingFace21天前原文

物理世界模型中的守恒定律,在神经网络学会潜表征之后还能被信任吗?一篇来自 arXiv 的新论文(arXiv:2606.24945)给出了一个量化的回答:**可信视界**——即在可测量的模型缺陷下,模型 rollout 仍能保证停留在物理不变量水平集上的步数上限。 ### 核心创新:解码物理不变量 论文的关键设计在于,作者不直接认证一个“潜哈密顿量”或“潜标量见证者”,而是认证**解码后的物理不变量**:将潜状态解码回物理空间,再评估已知的守恒量。这一选择避免了“潜空间自己守恒但真实能量漂移”的陷阱。 围绕这个对象,作者推导出**壳层-视界证书**,其预算分解为三部分缺陷: - 表征缺陷(representation defect) - 读出缺陷(readout defect) - 潜动力学缺陷(latent-dynamics defect) 通过一个**单调对齐桥**,软的已学习见证者可以为解码不变量提供可信视界。 ### 实验发现:几何先验并非都有效 论文在保守系统中测试了三种观测类型:状态观测、学习提升观测和像素观测。实验结果揭示了几个关键结论: - **硬规范辛结构**在已知相坐标下提供最长的视界,但无法跨越已学习图表; - **受控 Lipschitz 对齐的软不变量**则在已学习表征设置中幸存; - 像素级认证仅在读出稳定的子管道上恢复; - **开普勒问题**暴露了几何边界。 ### 行业启示 这项工作为 AI 物理建模提供了重要视角:**中心对象不是潜哈密顿量,而是解码物理不变量**。在机器人、自动驾驶等依赖世界模型 rollouts 的领域,该框架允许从业者在部署前测量模型对物理定律的保真度,并提前知道模型在多少步内是“物理可信”的。 论文还指出,不同几何先验的鲁棒性差异显著,这为未来设计更可靠的表征学习算法指明了方向:与其追求完美的潜守恒,不如直接认证解码后的物理量,并量化其不确定性。

HuggingFace21天前原文

## 研究背景与核心问题 学习型世界模型在机器人、自动驾驶等领域的规划与控制中扮演着越来越重要的角色。然而,这类模型的有效性高度依赖于其**展开误差**(rollout error)在时间视界内是否可控。一旦模型预测偏离真实状态,后续决策就可能失效。因此,如何为世界模型划定一个可靠的“信任视界”(trust horizon),即模型预测误差保持在可接受范围内的最长步数,成为一个关键问题。 ## 方法:共形校准与等变性结合 这篇论文提出了一种基于**共形预测**(conformal prediction)的信任视界认证方法,特别针对具有已知群对称性的**潜在世界模型**(latent world models)。作者首先利用单步潜在残差和有限时间展开估计构建原始视界曲线,然后通过**分割共形乘法因子**(split-conformal multiplicative factor)进行校准。 在可复现的审计集上,共形因子 γα=1.0,表明原始认证在审计协议下已经足够保守。在50次稳定审计中,未观察到任何反保守违规(anti-conservative violation),对应的精确二项式95%上限违规率为5.8%。 ## 核心理论贡献:轨道不变性 论文的主要结构成果是:**精确等变性**(exact equivariance)可以将校准后的信任视界曲线沿群轨道进行迁移。当环境动力学、编码器、预测器、动作变换和潜在度量满足指定的等变/不变条件时,展开误差和信任视界在整个轨道上是常数。这意味着,只需在一个场景(如一个特定朝向)下进行校准,模型在该对称群作用下的所有其他场景(如旋转后的视角)都能自动获得有效的信任视界。 实验表明,实现的模型具有较小的轨道迁移残差,在14次轨道审计中中位数为1.1%,最大值为4.1%。认证也非空(中位认证-测量视界比为0.67)。 ## 实验验证与两种模式 论文通过两个实验展示了不同场景下的行为: 1. **对称2D基底**:等变模型、普通模型和增强模型都能从单个校准扇区获得轨道有效认证——没有分离,因为基底本身使非等变基线也近似具有轨道鲁棒性。 2. **3D偏航审计**:出现了另一种模式。等变模型通过一个扇区即可获得安全且非空的轨道有效认证,而健康的非等变基线则需要付出违规、松弛、尖锐化或额外扇区成本。 ## 局限与未来方向 作者指出,该认证是**保守的分布审计**(distributional audit),而非全局可达性保证。此外,在当前3D CEM-MPC行为层中,认证引导的子目标间距尚未得到确认,这为后续工作留下了空间。 ## 总结与启示 这项研究为世界模型的可信部署提供了理论支撑和实用工具。通过将共形预测与等变性结合,不仅提升了认证效率(只需一个扇区校准即可覆盖整个轨道),还显著降低了计算成本。对于那些依赖对称性(如旋转、平移)的机器人任务,该方法有望成为模型验证的标准组件。

HuggingFace21天前原文

## 研究背景:循环语言模型的监督困境 循环语言模型(Looped Language Models)通过将隐藏状态解码为预测并反馈到后续计算中,实现了运行时状态管理。然而,这种设计引发了一个基础问题:交叉熵损失究竟控制了哪些状态变量?近期一篇来自 arXiv 的论文(编号 2606.24898)揭示了**密集监督的局限性**——逐循环的交叉熵损失只能控制读出层暴露的变量,而非循环转换中活跃的所有变量。 ## 核心发现:隐藏状态规模的失控 研究团队在 44M 和 129M 参数的循环 Transformer 模型中发现,当使用 RMSNorm 或 LayerNorm 等**尺度不变读出机制**时,隐藏状态的范数会急剧膨胀至数千甚至数万。这是因为这些归一化操作隐藏了径向尺度信息,使得交叉熵损失无法直接感知和控制状态规模。而预归一化残差循环却持续携带并更新这一尺度,导致模型在训练过程中逐渐失控。 ## 解决方案:让尺度可见或消除循环 论文提出了两种互补的修复策略: 1. **尺度可见的读出**:使用不隐藏尺度的读出机制,让损失函数直接作用于状态范数。 2. **显式范数惩罚**:在损失中添加对隐藏状态范数的约束项。 实验表明,这些方法能将状态范数稳定在十位数级别。此外,**尺度消除的循环**(如采用归一化后的残差连接)也是一种有效的架构修复。 ## 设计规则与性能提升 研究总结出一条简洁的设计规则:**密集监督训练出口,循环尺度控制需要让尺度对损失可见或从循环中移除**。遵循这一规则的尺度控制变体,在可变深度基准测试中,于匹配推理深度的工作点上取得了更低的困惑度(perplexity)。 ## 行业意义 这项工作对当前流行的**早期退出**(early exit)和**循环计算**(recurrent computation)范式具有重要指导意义。它提醒研究者:简单的逐层交叉熵监督可能隐藏着状态失控的风险,而尺度控制是确保模型稳定性和性能的关键。未来,在设计和优化循环语言模型时,需要同时关注输出质量和内部状态的健康度。

HuggingFace21天前原文

## 核心突破:在传感器旁完成模型定制 近日,一篇发表于arXiv的论文提出了一种全新的**设备端神经架构搜索(On-Device NAS)**方法,将模型设计过程从云端下沉到部署设备本身。这项技术允许轻量级NAS算法直接在传感器所在的嵌入式系统上运行,根据实时采集的数据自动寻找最优的小型神经网络结构。 ## 为什么需要“自己设计”的模型? 传统做法中,神经网络架构通常由开发者在服务器上预先设计并训练,再部署到边缘设备。但这种方式在面对**个体差异显著**的应用场景(如生物信号分析)时存在短板——不同用户的手势肌电信号、心率特征往往大相径庭,预训练模型难以泛化。论文提出的方法允许设备在用户更换后,通过一次引导式数据采集,**重新搜索并定制**最适合当前用户的网络结构,从而在边缘端实现真正的个性化适应。 ## 性能验证:更小、更准、更省内存 团队以**意大利手语(ISL)数据集**(包含意大利字母手势的表面肌电信号)和**凯斯西储大学(CWRU)轴承故障诊断数据集**作为验证基准,在Raspberry Pi 4等嵌入式平台上测试。结果显示: - **ISL任务**:设备端NAS搜索出的网络相比现有最优方案,**RAM占用减少37%**,同时**准确率提升5.96个百分点**。 - **CWRU任务**:RAM占用降低56%,准确率仍高出0.2个百分点。 这种“又小又准”的特性,对于资源受限的可穿戴设备、工业传感器节点等场景意义重大。 ## 技术实现:轻量级NAS如何“上机”? 论文设计了一套专为设备端优化的NAS流程,核心思路是简化搜索空间并采用**权重共享**等高效策略,使得搜索过程在计算能力有限的MCU或Linux单板计算机上可完成。搜索结束后,设备直接部署找到的架构,无需与云端交互。 ## 应用前景与行业意义 这项研究将**个性化边缘AI**推进一步。在**人机交互**领域,智能假肢、手势控制设备可根据用户生理信号实时调整模型;在**工业预测性维护**中,不同工况下的振动信号也能驱动设备自优化。不过,论文未讨论搜索过程的能耗和延迟对实时性的影响,实际落地还需进一步验证。 总体而言,On-Device NAS为边缘AI的“自适应”能力提供了新范式,未来或将成为智能传感器的一项标配功能。

HuggingFace21天前原文

在AI辅助数学研究的讨论中,人们往往关注AI如何快速求解已知问题。但一项最新研究指出,AI在更早期的“问题形成阶段”可能发挥更关键的作用——当一个模糊的研究直觉被转化为具体问题、可行路径和值得证明的定理族时,AI的探索能力能显著加速这一过程。 这项发表于 arXiv 的研究以 **符号嵌入量子算法(sign-embedding quantum algorithms)** 的发现为案例,详细展示了人类与AI“共同发现”的工作流程。该算法针对矩阵方程和矩阵函数,是量子线性代数与算子输出量子算法的基础原语。项目的起点是人类研究者提出的一个直觉:**有理逼近对符号函数这类跳跃型函数特别有效**,因此可能成为设计量子算法的通用原则。 然而,从这一直觉到最终成型的算法框架并非一蹴而就。研究团队借助AI辅助探索工具(包括后来集成到 **AIM** 智能数学系统中的工作流),将初始直觉逐步扩展为一张完整的路线图。AI帮助比较了多种候选方案,最终引导团队聚焦于“符号嵌入”这一核心框架。随后,AIM系统进一步协助将已知的矩阵符号恒等式推广到更广泛的矩阵方程和矩阵函数类别,并草拟了证明与复杂度计算。 但研究强调,**决定性的科学判断始终由人类掌握**。例如,团队曾在探索中遇到一种“Cayley-梯形逼近”方案,AI给出了看似合理的推导,但人类研究者发现其有效性依赖于一个隐藏条件,最终将其否决。在实现Sylvester方程求解时,人类研究者将AI最初给出的粗略“二次间隙查询”路径,逐步优化为最终的分解与缩放分析。 这项研究的意义在于重新定义了AI在数学发现中的角色。**AI不是独立的问题解决者,而是研究伙伴**——它擅长问题形成、连接发现、推导草拟和怀疑性审查,但最终决策仍需嵌入人类的判断回路。这种“人类把关的协作循环”可能成为未来AI辅助科研的主流范式。 对于AI行业而言,这一案例也提供了重要启示:当前大模型在数学推理上的评测多聚焦于标准题库的准确率,但真正推动前沿进展的能力可能体现在更开放的探索场景中。如何设计能够参与“问题形成”阶段的AI系统,将是下一阶段的重要课题。

HuggingFace21天前原文