SheepNav

AI 资讯

每日聚合最新人工智能动态

来源:HuggingFace清除筛选 ×

空中客车公司携手法国国家信息与自动化研究所(INRIA)等机构,在最新研究中提出了一种基于监督式机器学习模型的直升机起飞重量估算方法,并展示了其在传统航电计算机上的可行部署。该成果已提交至2026年5月举行的垂直飞行协会(VFS)第82届年度论坛与技术展示会,相关论文以预印本形式发布于arXiv平台。 ## 研究背景与核心思路 直升机起飞重量是飞行安全的关键参数,直接影响性能计算、载荷配置和告警触发。传统估算依赖物理模型和飞行员经验,难以适应复杂工况。研究团队利用空客全球在役机队的海量运行数据,训练了一个长短期记忆(LSTM)递归神经网络,以端到端方式学习重量与飞行参数间的非线性关系。 ## 适航合规与学习保证 航空安全对机载软件有严苛要求。该研究严格遵循欧洲航空安全局(EASA)关于机器学习应用的概念文件,并与正在制定中的EUROCAE ED-324标准对齐。论文提出了一套完整的机器学习需求(MLR)、模型描述(MLMD)及实现验证流程,覆盖从数据管理、模型训练到部署验证的全生命周期,确保可解释性和可追溯性。 ## 关键发现与行业意义 实验表明,该LSTM模型能在传统航电计算机(如老旧型号的飞行管理计算机)上高效运行,推理延迟满足实时性要求,具备用于机载告警等关键功能的潜力。这意味着无需更换硬件,即可通过软件升级引入智能估算能力,大幅降低部署成本。 从行业视角看,这一进展标志着机器学习正从地面数据分析走向机载实时决策。空客此前已在飞行预测维护中应用AI,此次将AI嵌入安全关键路径,对适航认证体系提出了新挑战。EUROCAE ED-324的推进,正是为这类应用提供标准化框架。 ## 局限与展望 尽管结果积极,但论文也承认,当前验证主要基于仿真和地面测试,实际飞行环境下的鲁棒性仍需进一步验证。此外,模型对数据分布的依赖意味着,极端气象或异常载荷场景下的表现可能需额外训练。未来工作将聚焦于多机型泛化、模型压缩以及与现有告警系统的深度融合。 这项研究为AI在航空安全关键领域的落地提供了可参考的范本,预示着机载智能将从辅助功能逐步迈向核心控制环节。

HuggingFace1个月前原文

在复杂系统的决策过程中,信息往往带有模糊性与不确定性,三角模糊数(TFN)因此成为常用的建模工具。然而,当面对量纲或尺度各异的属性时,传统距离度量通常需要先做归一化处理,这既增加了流程复杂度,也可能引入偏差。近期,一篇发表于 arXiv 的论文提出了一种名为 **三角模糊重缩放距离(d_TR)** 的新度量,巧妙地将线性重缩放(LRE)嵌入距离计算本身,从而在比较模糊数的同时完成归一化,为异构模糊数据的分析提供了更简洁、稳健的解决方案。 ## 核心思想:让归一化融入距离计算 传统做法中,距离度量通常假设数据处于同一尺度,因此面对异构属性时,需要预先进行标准化。而 d_TR 的设计理念是:在进行距离计算时,直接对每个维度应用线性重缩放,使得最终的距离值天然不受原始尺度影响。这意味着,无论是温度、价格还是评分,只要它们以三角模糊数表示,d_TR 都能在统一框架下进行公平比较,无需额外的预处理步骤。 ## 理论性质:严格数学证明的可靠性 论文不仅提出了概念,更给出了严谨的数学证明。作者证明了 d_TR 满足度量空间的所有基本性质: - **非负性**:任意两个模糊数之间的距离始终大于等于零; - **同一性**:两个相同的模糊数距离为零; - **对称性**:距离不依赖于比较方向; - **三角不等式**:满足直递性,确保距离的合理性。 此外,d_TR 还具备**有界性**、**尺度不变性**和**原点不变性**。这些性质使得 d_TR 在数学上成为可靠的度量工具,为后续应用奠定了坚实基础。 ## 应用前景:从合成指标到机器学习 论文指出,d_TR 特别适用于涉及异构模糊数据的场景。例如,在构建合成指标时,需要综合多个不同量纲的指标,d_TR 的尺度不变性可以避免人为设定权重或归一化带来的主观性。在基于距离的机器学习算法(如 k近邻、聚类)中,d_TR 可以直接处理模糊特征,简化数据预处理流程。此外,在多准则决策辅助(MCDA)中,决策者可以利用 d_TR 结合权重向量,优先考虑某些维度,从而更灵活地评估备选方案。 ## 局限与展望 尽管 d_TR 在理论上表现优异,但论文并未提供大规模实证对比,其在实际数据集上的性能优势仍需进一步验证。此外,线性重缩放假设数据范围已知,对于动态数据或异常值敏感的场景,可能需要更鲁棒的缩放策略。未来的研究可以探索 d_TR 与其他模糊距离度量的混合使用,或将其扩展到更广泛的模糊数类型。 总而言之,三角模糊重缩放距离为模糊数据分析提供了一种新思路,其理论上的优雅与简洁可能为相关领域带来新的工具选择。感兴趣的读者可以通过 arXiv 获取完整论文进行深入研读。

HuggingFace1个月前原文

多模态大语言模型(MLLMs)在医学图像解读和短时信号分析上已展现惊人能力,然而在动态心电图(ECG)这一关键领域,它们却面临严峻挑战。长时程心电数据不仅包含复杂的时间依赖模式,还要求模型具备精准的病理定位与诊断报告生成能力。近日,一支研究团队发布了 **Holtercare-Bench**,一个专门用于评估长时动态心电图分析能力的多模态基准,并配套推出了大规模数据集 **Holtercare-23K**,为这一领域的研究提供了全新标尺。 ## 数据与基准:从788份临床记录中构建 Holtercare-23K 数据集包含 **22,980 个问答对**,源自 **788 份临床 Holter 记录**,并创新性地引入了**信号-视频-文本三模态对齐**机制。这种设计突破了以往静态图像或短时信号的局限,让模型能够同时理解心电波形、动态影像与临床文本描述,更贴近真实临床场景。 基于该数据集,Holtercare-Bench 从三个维度评估模型能力:**时间定位**(temporal localization)、**临床诊断**(clinical diagnosis)和**全局总结**(global summarization)。这意味着模型不仅要识别异常心拍,还要能定位异常发生的时间段,并生成完整的诊断报告。 ## 零样本测试:主流MLLM暴露短板 研究团队对当前领先的 MLLMs 进行了零样本评估,结果令人警醒:在超长病理序列的处理上,现有模型普遍表现不佳,性能差距显著。这暴露出当前多模态模型在电生理学领域的深层缺陷——它们大多擅长静态图像或短时信号,面对长达数小时的心电数据,难以捕捉细微的时间依赖和病理演变。 ## 微调带来显著提升 然而,研究并非止步于暴露问题。通过对代表性模型进行微调,模型的性能获得了**大幅提升**,证明 Holtercare-23K 数据集不仅可用于评测,更能作为训练语料,赋能模型掌握长时动态心电分析能力。这一结果也为后续研究指明方向:基于高质量临床数据的专项微调,是提升医疗 MLLM 实际应用价值的有效路径。 ## 意义与展望 Holtercare-Bench 的发布填补了长时动态心电基准的空白,为医疗多模态大模型提供了基础性测试平台。未来,随着更多模型在此基准上迭代优化,我们有望看到 AI 在心律失常检测、心肌缺血预警等场景中发挥更可靠的作用,真正助力临床决策。 项目代码与数据已公开,研究者可访问项目主页获取详情。

HuggingFace1个月前原文

肺癌是全球癌症死亡的主要原因之一,低剂量胸部CT筛查虽能降低死亡率,但受限于筛查率、依从性和管理挑战。血液中的游离DNA(cfDNA)生物标志物作为一种补充手段,因其非侵入性和潜在的高灵敏度而备受关注。然而,肺癌的异质性以及分子信号的高维非线性特性,使得早期检测依然困难重重。 来自克利夫兰诊所等机构的研究人员,在最新提交至arXiv的论文中,探索了量子-经典混合机器学习方法在基于cfDNA的肺癌检测中的应用。该研究被CIBB 2026会议接收,展示了量子内核方法在生物信息学领域的潜在价值。 ## 研究方法:量子内核与特征编码 研究团队利用DNA片段组学和DNA甲基化数据,通过特征选择提取了20个和40个特征子集。他们采用角度和密集角度特征映射,结合多种纠缠策略,将特征编码到量子希尔伯特空间。基于保真度的量子内核通过精确态矢量模拟计算,并与预计算内核的支持向量机(SVM)和内核主成分分析逻辑回归相结合,与基于原始特征的经典SVM模型进行对比。 这一框架系统评估了编码和纠缠设计对分类性能的影响。 ## 结果:竞争性能与特定优势 在重复的保留集评估中,量子内核模型在两个数据集上均取得了有竞争力的表现。对于片段组学数据,多个20特征配置的AUC优于经典SVM基线,表明量子内核能有效捕获cfDNA片段化的非线性结构。对于甲基化数据,经典SVM的AUC最高,但部分量子模型仍具竞争力,并在某些情况下提高了特异性。 值得注意的是,将特征从20增加到40并未持续提升性能,反而增加了变异性。 ## 行业背景与展望 量子机器学习在医疗健康领域的应用尚处于早期阶段,但这项研究为量子内核方法在生物标志物检测中的可行性提供了证据。尽管量子计算硬件尚不成熟,但经典模拟下的量子内核设计思路,为处理高维复杂生物数据提供了新视角。未来,随着量子硬件的发展,这类方法有望在实际临床筛查中发挥更大作用。 不过,研究也存在局限性,如基于模拟的量子计算与真实硬件的差异,以及数据集的规模限制。研究人员建议,未来的工作应探索更高效的量子特征映射和更大的临床队列验证。

HuggingFace1个月前原文

**黑盒大语言模型**(LLM)在现实世界中的安全部署高度依赖**不确定性量化**(Uncertainty Quantification, UQ)。然而,现有方法多采用零样本(zero-shot)策略,在无需标注数据的情况下生成置信度分数,但实际应用中,部署前仍需在目标数据集上评估其性能。最新研究提出,通过利用这一数据集,可以显著提升UQ的表现,且几乎不增加计算开销。 该研究由Sokhna Diarra Mbacke、Mouloud Belbahri和Gabriel Loaiza-Ganem共同完成,论文发表于arXiv(编号2608.19323)。研究者发现,现有UQ方法(如口头化置信度、多次生成法等)虽各有优势,但往往未能充分利用部署时可得的数据资源。为此,他们提出构建一个简单的**分类器**,将现有UQ分数与相似查询的正确性作为特征,预测LLM响应的正确性。这一方法在多个基准测试上**持续优于**现有分数,且额外计算量极小。 **核心思路**在于:当面对一个新查询时,分类器会参考历史数据中相似查询的结果,结合当前UQ分数,做出更精准的置信度判断。这种“数据驱动”的增强方式,使得UQ不再局限于模型自身的输出,而是融入了经验证据,从而提高了可靠性。 **实际意义**上,该方法为UQ提供了一种廉价且直接的改进途径。在医疗、金融等高风险领域,准确的不确定性估计至关重要,而该研究让开发者无需复杂改造即可提升模型的可信度。不过,研究者也指出,方法依赖初始UQ分数的质量,若初始分数与正确性关联微弱,改进空间可能受限。 总体而言,这项工作揭示了**数据集利用**在UQ中的潜力,为黑盒LLM的安全应用提供了新思路。未来,结合主动学习或在线适应,或可进一步优化分类器性能,值得关注。

HuggingFace1个月前原文

**机制可解释性**(Mechanistic Interpretability)旨在揭示模型内部不直接暴露的表示状态、组件效应、交互关系以及干预响应。然而,现有的测量方法——如激活修补(Patching)、梯度计算、Hessian-向量积以及子集干预——在不同的访问权限下,针对不同的目标量,缺乏统一的数学框架。最新研究提出“机制断层扫描”(Mechanistic Tomography)概念,将测量结构统一为线性模型 y = Ax + w,其中 A 描述干预,x 是目标映射,w 包含非线性响应、采样误差和基失配。这一框架提供了一套实用流程:从低成本测量开始,在预期规模上测试留出干预,校准简单失配,并在结构残差出现时扩展测量家族。控制场景成为验证该方法的理想试验场,因为估计结果若用于指导干预,其角色类似于观测器。在双隐马尔可夫模型(HMM)实验中,控制误差随观测器误差增大而上升,而目标改善可能掩盖干扰状态的运动。在仅前向访问条件下,稀疏聚合测量能以比坐标修补更少的干预次数恢复有限效应映射;在梯度访问下,有限探针改进局部归因映射;提升测量和 Hessian-向量积能恢复一阶映射遗漏的交互,而 Tracr 实验表明所需测量家族依赖于基底选择。在 GPT-2-small 的 IOI 任务中,Name Mover 与 Negative Name Mover 的交互是三个跨组对中最大的留出预测项;而在 Qwen-2.5-7B 上,有限校准使加法拒绝响应映射足够充分,留出误差不支持成对提升。该研究为可解释性测量提供了设计原则,并强调控制导向的验证对于确保解释的可靠性至关重要。

HuggingFace1个月前原文

随着神经网络在安全关键领域的广泛应用,其鲁棒性验证变得愈发重要。近日,一项发表于arXiv的研究(编号2608.19351)系统性地探讨了证明共享技术在不同场景下的有效性边界,并提出了一种名为FastCert的新方法,旨在自动优化模板分配,提升验证性能。该研究由Kanak Das、Shubham Ugare等多位学者共同完成,即将在第33届静态分析研讨会(SAS 2026)上发表。 ## 背景:鲁棒性验证与证明共享 神经网络在自动驾驶、医疗诊断等领域的部署,使得对其在对抗性攻击下的鲁棒性验证成为关键需求。不完全验证技术通过抽象中间层状态来加速验证过程,而证明共享(proof sharing)则通过在不同查询间复用这些抽象状态(即模板)来进一步提升效率。然而,模板加速的效果是否稳定?在不同网络架构、属性、数据集和训练方法下,其性能表现如何?这些问题此前缺乏系统性研究。 ## 核心发现:模板加速的局限性 该研究首先对模板加速的有效性进行了全面分析。结果显示,**模板包含率(subsumption rates)在不同场景下差异显著**,在某些情况下,模板复用几乎无法带来任何速度提升。为了解释这一现象,研究者提出了一种新的度量指标——**联合稳定神经元(jointly stable neurons)**,该指标能够预测模板加速的潜在收益。当联合稳定神经元数量较少时,模板复用策略很可能失效,这为验证工具的性能优化提供了重要参考。 ## FastCert:自动化模板分配与决策 基于上述发现,论文提出了一种名为**FastCert**的新技术。FastCert能够自动决定如何在神经网络各层之间分配模板,以最大化性能收益,同时**在模板可能无效时主动放弃使用**,避免不必要的开销。实验表明,在一系列基于覆盖设计的$L_0$验证任务中,FastCert相对于现有的模板复用技术实现了**平均1.13倍的加速**。 ## 意义与展望 这项研究不仅揭示了证明共享技术的边界,也为未来鲁棒性验证工具的优化指明了方向。通过引入联合稳定神经元指标,研究者能够更准确地评估模板复用的适用场景,而FastCert则提供了一种实用的自适应策略。随着神经网络在关键领域的进一步渗透,此类性能优化技术将有助于实现更可靠的AI系统部署。 值得注意的是,该研究目前尚未经过同行评审,其结论基于特定实验设置,实际应用效果可能因场景而异。未来,研究者计划扩展FastCert到更多验证任务,并探索与其他加速技术的结合。

HuggingFace1个月前原文

阿尔茨海默病(AD)的病理演变是一个连续的生物学过程,但现有的神经影像人工智能方法多局限于横断面成像的离散诊断或临床评分预测。针对这一局限,研究团队提出了一种名为**疾病连续谱定位(DCP)**的纵向贝叶斯学习框架,能够从纵向扩散张量成像(DTI)中连续估计疾病严重程度。 ## 从离散到连续:DCP 的核心思路 DCP 将疾病严重程度建模为一个低维概率潜在变量,通过联合整合纵向观测和弱临床监督,推导出**疾病连续谱评分(DCS)**。该评分不仅量化个体在 AD 连续谱上的位置,还提供相应的不确定性度量。这种方法突破了传统分类标签的束缚,为理解 AD 的渐进性提供了更细腻的工具。 ## 实验验证与临床价值 研究团队在**阿尔茨海默病神经影像学倡议(ADNI)**队列上进行了广泛实验,结果显示 DCP 在疾病进展建模上优于现有代表性方法。进一步的分析表明,DCS 能够准确刻画疾病严重程度,展现出强临床相关性,保留纵向疾病演变信息,并能预测未来疾病转化。这些发现意味着 DCS 提供了一种量化的影像学表征,可用于 AD 进展的连续评估,超越了传统的诊断标签和临床评分。 ## 意义与展望 这项研究不仅推动了神经影像 AI 从离散分类向连续建模的转变,也为精准医疗提供了新思路。未来,DCP 框架有望扩展到其他神经退行性疾病,并整合多模态数据,进一步提升预测效能。随着纵向数据的积累和模型优化,连续疾病定位有望成为临床研究和药物试验中评估疾病修饰疗法的有力工具。

HuggingFace1个月前原文

随着机器学习模型规模的不断扩大,模型参数、梯度和KV缓存等数据的存储与传输已成为系统性能的关键瓶颈。量化技术通过降低数据精度来缓解这一问题,但传统方法往往在精度和压缩率之间难以两全。近日,来自哈佛大学、VMware Research等机构的研究者提出了一种名为**熵约束自适应随机量化(ECASQ)**的新方法,在保持无偏性的同时,显著提升了量化压缩的效率。相关论文已提交至arXiv(编号:2608.18147)。 ### 从ASQ到ECASQ:为何需要熵约束? 自适应随机量化(ASQ)是一种先进的量化方法,它针对给定输入优化均方误差(MSE),同时保证无偏性,适用于模型、梯度、KV缓存压缩以及最近邻搜索等场景。然而,ASQ在选取量化值时并未考虑后续的无损熵编码阶段,导致压缩率仍有提升空间。ECASQ正是为了解决这一缺陷而设计:它在熵预算和无偏性约束下,联合选择自适应量化值,以最小化MSE,从而在压缩率和精度之间找到更优的平衡点。 ### 算法创新:动态规划与近似求解 研究团队将ECASQ问题形式化,并提出了两种求解算法: - **最优动态规划算法**:时间复杂度为O(sd²),空间复杂度为O(d²),适用于长度为d的向量,最多支持s个量化值。 - **GPU友好的近似动态规划算法**:时间复杂度同样为O(sd²),但空间复杂度降至O(d),更适合大规模并行计算。 近似算法有个重要保证:其解对应的MSE不会超过使用每条目少一位熵的最优解。此外,研究者还提供了一种迭代细化过程,在实验中能够获得接近最优的结果,同时保持显著的速度优势。 ### 实验与前景 在实验中,ECASQ在多种数据压缩任务中均表现出色,尤其在高压缩率场景下,其精度损失远小于传统方法。这一进展对于分布式训练、边缘推理以及大模型部署等场景具有重要意义。未来,ECASQ有望成为AI基础设施中的标准工具,帮助开发者在不牺牲模型质量的前提下,大幅降低存储和带宽成本。 值得注意的是,该论文目前仅为预印本,尚未经过同行评审,但其提出的思路和算法已引发学界关注。随着后续研究的深入,ECASQ或将在实际系统中得到广泛应用。

HuggingFace1个月前原文

**企业AI智能体在持续学习时,遗忘通常被视为一种失败。** 然而,一篇最新研究论文提出了不同观点:在客户、政策、工具、工作流、法规和市场条件不断变化的非平稳环境中,一味地保留旧知识可能适得其反,导致过时信息影响决策,造成负迁移和运营风险。为此,研究者提出“可逆遗忘”框架,为AI智能体提供更精细的知识管理方案。 ## 从“不可遗忘”到“可逆遗忘” 传统持续学习强调保留所有已学知识,以应对环境变化。但该论文指出,这种目标对企业AI智能体并不完整。例如,金融领域,某种市场制度下的有效知识,在另一种制度下可能有害,而当相似条件重现时又可能重新有用。因此,简单的永久删除或无限保留都非最优解。 ## 三种记忆状态与迟滞控制器 论文提出的“可逆遗忘”框架包含三种操作状态:**活跃(active)**、**休眠(dormant)**和**退休(retired)**。活跃知识用于当前决策;休眠知识暂时不参与,但可被重新激活;退休知识则被永久移除。框架的核心是一个**迟滞可逆记忆控制器(Hysteretic Reversible Memory Controller)**,它通过累积相关性证据,利用不对称阈值防止状态振荡,在影子模式下测试重新激活,并通过策略控制退休过程。 这种设计旨在减少过时信息的影响,同时不将暂时性抑制与永久性擦除混为一谈。 ## 现实意义与挑战 该框架为企业AI智能体提供了一种更安全的知识管理方式。例如,在法规更新或市场突变时,AI可以暂时休眠旧规则,待新规则稳定后再决定是否恢复。然而,论文目前仅提出概念框架,尚未给出具体实现细节或实验验证。如何准确评估知识相关性、如何设置阈值,仍有待探索。 尽管如此,这一思路为持续学习领域提供了新视角:**遗忘并非缺陷,而是智能系统适应变化的重要能力**。未来,企业AI或能更灵活地管理知识生命周期,平衡稳定与适应。

HuggingFace1个月前原文

视觉自回归模型的训练常依赖在线策略蒸馏(OPD),即让学生模型从自身生成的轨迹中学习,以提升其性能。然而,传统的自回归解码逐token生成,导致每次在线训练步骤的开销巨大。最新研究提出了一种名为HB-SJD的批量推测雅可比解码后端,旨在显著加速这一过程,同时保持生成质量。 ## 背景:在线策略蒸馏的瓶颈 在线策略蒸馏通过让学生模型在训练过程中不断生成新数据,再基于这些数据优化自身,实现更高效的模型压缩。但问题在于,学生模型的每次前向传播只能生成一个token,这种序列化的解码方式使得整个训练过程耗时严重。尽管已有推测解码等方法尝试并行生成,但它们通常依赖于额外的草稿模型,增加了系统的复杂性。 ## HB-SJD:无需辅助模型的并行解码 HB-SJD基于推测雅可比解码(SJD),它利用雅可比迭代的原理,允许在不借助辅助模型的情况下并行处理多个token。HB-SJD将其扩展至批量场景,支持多个图像样本同时解码,每个图像根据其自身的生成进度独立推进,同时在不同序列位置进行批量验证。当某个图像完成生成后,HB-SJD会自动切换至更紧凑的执行模式,以降低后续迭代的计算成本。 ## 实验验证与优势 在LlamaGen模型上的实验表明,HB-SJD显著减少了回放生成和端到端训练的时间,同时保持了蒸馏后学生模型的生成质量。该方法仅替换了学生模型的回放后端,不改变教师模型、蒸馏目标或优化过程,因此可以轻松集成到现有的OPD流程中。 ## 意义与展望 HB-SJD为视觉自回归模型的高效训练提供了新思路,尤其适用于对实时性要求较高的应用场景。未来,该技术有望进一步扩展到其他模态或更复杂的模型结构,推动AI模型压缩与部署的实用化进程。

HuggingFace1个月前原文

在细粒度图像识别任务中,类别标签往往具有层级结构。例如,识别一种鸟类时,模型可能对“鹰”这一粗粒度概念很有把握,但在区分金雕、白头鹰等具体物种时却犹豫不决。这种结构化的不确定性,要求模型不仅能表达对细粒度类别的置信度,还需刻画对中间层级概念的认知状态。然而,现有方法各有短板:平面证据分类器只能在叶子类别上用一个“空值”表示整体无知,而层次分类器虽能传递点概率,却缺乏对证据量的刻画。 针对这一痛点,复旦大学的研究团队提出了一种名为 **H²EDL(Hyper Evidential Deep Learning for Hierarchical Classification)** 的新框架。其核心洞察在于:**类别树本身就是一个天然的“超域”**。树中的每个子树和叶子节点构成一个线性大小的焦点族,而每个分支节点上的一个局部狄利克雷意见,就能以闭式解推导出所有复合类别的质量分布。 H²EDL 的巧妙之处在于,它用同一组参数提供了两种互补的视角。从预测角度看,它是一个保持跨层级一致性的层次分类器;从概率角度看,它定义了一个有效的树结构超意见——每个节点上的质量代表“信念到达该节点,但不足以进一步细分为子类”的程度。这种设计让模型既能表达“知道是鹰,但不清楚具体种类”的中间状态,又避免了传统超证据网络需要人工标注复合标签或依赖非结构化权重模式的局限。 在 **FGVC-Aircraft** 和 **DERM12345** 两个数据集上的实验表明,与交叉熵基线相比,H²EDL 将校准误差降低了约一半,且层级越深、训练预算越大,改进越明显。这意味着模型不仅能做出准确预测,其置信度也更可靠,对于医疗影像诊断、自动驾驶等高风险场景尤为重要。 H²EDL 的提出,为层级分类中的不确定性建模提供了一个优雅而高效的解决方案。它首次将超证据学习与树结构结合,无需额外标注即可捕获结构化的认知不确定性,有望推动细粒度识别系统在实际应用中更安全、更可信。

HuggingFace1个月前原文

近年来,机器学习在医学领域的应用日益广泛,并取得了一定成功。然而,围绕机器学习的诸多不确定性,使其认识论和方法论基础难以确立。学术界常将医学与机器学习进行类比,主张以后者的标准来规范前者的认识论和方法论。但这一类比往往流于表面,缺乏深入剖析。 来自意大利和英国的研究者Emanuele Ratti与Lena Zuchowski在发表于《Studies in History and Philosophy of Science》的论文中,借助哲学家Mary Hesse的工具,将这一类比刻画为**临床转化过程与机器学习系统构建过程之间的生成性类比**。他们不仅明确了临床转化中通常被隐含提及的认识论和方法论依据,还展示了这些依据如何类推到机器学习语境中。 研究者将临床转化中的依据解释为**可靠主义**(reliabilist)意义上的,并由此提出一种新的机器学习可靠主义(ML reliabilism)。这种新观点与现有的AI哲学中的可靠主义既有区别又相互兼容。 这一研究的意义在于,它并非简单地套用医学标准,而是通过严谨的哲学分析,为机器学习系统的可靠性提供了新的理论支撑。在AI信任危机频发的当下,这一视角有助于我们重新思考如何构建值得信赖的AI系统,也为AI方法论的研究开辟了新的方向。

HuggingFace1个月前原文

自闭症谱系障碍(ASD)是一种以社交互动和沟通障碍为特征的发育性疾病,其病因目前尚不明确。近年来,机器学习(ML)技术在自闭症早期诊断和治疗中展现出巨大潜力。一篇发表于arXiv的综述文章系统评估了2017至2023年间55项相关研究,揭示了该领域的技术趋势、关键挑战与未来方向。 ## 技术趋势:监督学习主导,深度学习崛起 综述指出,**监督学习方法**在自闭症诊断中占据主导地位,这与ASD诊断需求高度契合——诊断通常需要明确的标签(如患病与否)。然而,随着数据可用性的增加,**深度学习**的应用正在迅速扩展。未来,结合无监督学习、深度学习和模糊逻辑的**混合方法**可能成为研究热点,有望处理更复杂的数据模式。 ## 关键挑战:数据整合与多模态融合 当前模型面临的核心挑战在于**整合复杂数据**,如遗传信息和临床数据,以提升诊断准确性和治疗效果。传统单一数据源(如行为问卷)难以全面捕捉ASD的复杂性。为此,综述强调,引入**可穿戴设备和生物传感器**等创新数据源,能够实现连续、非侵入式的监测,为理解ASD提供更全面的视角。 ## 未来方向:跨学科合作与多模态数据 综述认为,解决现有挑战需要**跨学科合作**,包括计算机科学、医学、心理学等领域专家的共同努力。同时,扩大针对ASD的**专用数据集**至关重要,这将使未来的ML模型能够整合更广泛的多模态数据,从而更全面地应对ASD的复杂性。 ## 小结 机器学习在自闭症诊疗中的应用正处于快速发展阶段,尽管面临数据整合等挑战,但技术创新与跨学科协作有望带来突破。对于研究者而言,关注混合方法、多模态数据融合以及新型数据采集技术,将是推动该领域前进的关键。

HuggingFace1个月前原文

在科学发现中,模拟数据与实验数据之间的鸿沟一直是机器学习应用的难题。领域自适应(Domain Adaptation)技术为此而生,其核心假设是:模拟与实验两个域仅在“干扰”(nuisance)上存在差异,而目标量的分布保持一致。然而,在物理学中,这一假设往往不成立:模拟可能对物理本身存在错误描述,而目标量(如能谱、红移分布)的分布恰恰是实验要测量的对象。 最近,来自俄罗斯科学院核研究所与莫斯科物理技术学院的 Ivan Kharuk 在 arXiv 上提交了一篇题为《Safe Domain Adaptation for Physics: Overcoming Nuisances, Label Shifts, and Simulation Priors》的论文,系统性地探讨了这些失配带来的后果,并提出了一种新的自适应方法。 研究团队以一个玩具空气簇射基准(toy air-shower benchmark)为实验平台,该基准可以独立或组合地开启三种失配:探测器响应干扰、物理模拟偏移、以及能谱偏移。他们发现,标准的对抗性域自适应(adversarial adaptation)能够有效处理条件偏移,但当两个域的能谱分布不同时,标准方法会将它们“对齐”,从而将原本不可控的偏差替换为锚定在模拟先验上的偏差。换句话说,模型会错误地将模拟的能谱分布强加给实验数据,掩盖真实的物理差异。 为解决这一问题,作者提出了“自适应域自适应”(adaptive domain adaptation)方法。该方法通过重新加权模拟事件,使域自适应仅聚焦于真正的物理失配,而避免将模拟先验的错误信息传递到目标域。此外,由于预测的能谱依赖于模型训练配置,论文还提供了一种无标签的模型选择规则,帮助用户在不依赖真实标签的情况下,选择接近最优操作点的配置。 这一工作对高能物理、天体物理等领域具有重要意义。在这些领域,模拟是理解探测器响应和物理过程的关键工具,但模拟与真实数据之间的差异常常被低估。该研究不仅揭示了标准域自适应方法在物理场景中的局限性,还提供了一种更为安全、可靠的替代方案。未来,这一方法有望应用于更复杂的物理实验数据分析,如宇宙射线观测、暗物质搜索等,帮助研究者更准确地从数据中提取物理规律。

HuggingFace1个月前原文

蝙蝠作为生态系统健康的关键指示物种,在欧洲受到广泛保护,因此可靠的数量监测是保护工作的优先事项。然而,蝙蝠隐秘的夜行性生活使得被动声学监测成为必要,但自动识别面临挑战:回声定位叫声因行为和环境而异,且物种间存在重叠。为此,研究人员提出了一个深度学习框架 ChiroEcho,该框架联合预测物种和属,并在推理时将属的预测与地理物种分布相结合。当预测的属在某一区域只有一种物种时,该框架能够解析出训练分类中未出现的物种,从而将地理信息视为扩展分类器有效分类的手段,而非限制。研究使用了涵盖 35 种欧洲蝙蝠的录音,评估了封闭集分类,检验了稀疏物种性能估计的不稳定性,并进行了受控的留出验证实验。稀有物种分析显示,有限的评估数据可能掩盖物种级性能;而留出实验表明,属的预测和位置信息可以恢复物种头无法获得的标签。地理分辨将操作覆盖范围从 35 种扩展到 48 种欧洲本土蝙蝠中的 41 种,覆盖率从 73% 提升至 85%。据作者所知,这是报道的欧洲蝙蝠自动分类中最广泛的操作覆盖。更广泛地说,该框架为通过结合粗粒度预测和透明外部约束来解析未见过的细粒度类别提供了原理验证。

HuggingFace1个月前原文

道路安全管理长期以来处于被动状态,通常依赖事故记录,在伤亡发生后才进行分析。然而,在事故发生前主动识别高风险路段和危险驾驶行为,是亟待解决的关键挑战。近期,一篇提交至ATRF 2026会议的论文,探讨了如何利用澳大利亚悉尼大都会区的联网车辆遥测数据,检测并预测接近事故的危险驾驶事件,为主动干预提供了新思路。 ## 研究核心:量化危险驾驶与构建热点图 研究团队通过**g力阈值**来量化危险驾驶行为,包括急刹车(>0.6g)、急转弯(>0.47g)和急加速(>0.5g)。他们基于这些事件构建了**时空热力图**,以识别高风险区域。研究以地方政府区域(LGA)为粒度,聚焦于悉尼内城区和西部的CBD、Parramatta、Bankstown等地区,这些区域被持续标记为高风险区,需要针对性的政策干预。 ## 模型对比:简单时间序列模型胜出 为了预测高风险驾驶事件,研究者比较了八个预测模型,涵盖三大类:集成学习(随机森林、XGBoost、LightGBM)、深度学习(LSTM、N-BEATS)和经典时间序列方法(ARIMA、指数平滑、Prophet)。结果显示,**ARIMA模型表现最佳,平均绝对误差(MAE)为162.21**,与LSTM(MAE 163.92)接近,且优于所有集成方法。N-BEATS的MAE为180.75。这表明,在训练数据量有限的情况下,**简约的时间序列模型能够与深度学习模型相抗衡**,甚至更优。 ## 意义与展望:物联网数据驱动的主动安全 该研究凸显了基于物联网的联网车辆数据在支持**主动道路安全干预**方面的潜力。通过实时监测和预测高风险驾驶事件,交通管理部门可以提前部署资源,如加强巡逻或调整信号灯配时,从而减少事故发生率。未来,随着联网车辆数据的普及和模型的优化,这种主动安全策略有望在更广泛的区域推广,真正实现从“事后应对”到“事前预防”的转变。 尽管研究尚处于初步阶段,但它为道路安全监测提供了新的视角,证明了数据驱动方法在公共安全领域的应用价值。

HuggingFace1个月前原文

在物理信息机器学习(PIML)领域,一个长期困扰研究者的问题是:当混合偏微分方程(PDE)参数估计器假设的算子不正确时,我们能否仅从一次拟合中检测出来,并进一步将其与参数不可识别性区分开?最新研究提出了一种无需参考(reference-free)的检测工具,仅凭单次拟合即可实现这一目标,为模型验证提供了新思路。 该工具的核心是一个基于信息矩阵的统计量,它利用插件尺度和每种子参数,在正确设定的情况下,其中位数仅为0.19,拒绝率为0.033,远低于预注册的0.10阈值。然而,在两种误设情形下,该统计量分别飙升至224和85,并在所有重复试验中触发警报。更关键的是,在正确设定但参数不可识别的设计中,该统计量保持沉默(n=200时为0.050,Clopper-Pearson置信区间[0.024, 0.090]),而秩统计量则在预注册边界c5*=2.15×10^-3处崩溃为零。因此,通过一次拟合的两种读数,研究者能够在三种设计中区分误设与不可识别性,这正是该工作的核心贡献。 作者强调,检测本身并非新鲜事物,但区分两种失败模式才是关键。在样本内,该工具提供的是界限;在样本外,则指示方向。研究指出,常用的精度检查往往对误设视而不见:误设估计器的域内均方根误差(RMSE)为2.7×10^-2,低于σ≥0.05时的观测噪声,而系数在零噪声时误差达29.7%,在最大噪声时达31.2%。这表明,仅凭预测精度无法捕捉模型错误。 此外,研究排除了架构因素:单参数曲线拟合、裸参数以及49和241参数的多层感知机均收敛到相同的伪真值(闭合形式匹配度达0.07%),而物理信息网络因其复合目标函数,收敛到不同的解。这进一步说明误设是本质性的,而非网络容量不足。 作者还报告了工具的盲区,包括一个预注册的负面结果:在恢复任务中,神经网络估计器败给了Tikhonov正则化反演。同时,他们给出了保证成立但训练网络违反该保证的假设条件。 这项研究为混合PDE参数学习提供了实用的诊断工具,有助于提高模型的可信度,并可能推动PIML在科学计算中的更广泛应用。

HuggingFace1个月前原文

在大语言模型(LLM)的后训练阶段,监督微调(SFT)是提升模型任务能力的关键环节。然而,面对海量的候选数据,如何筛选出少量高质量样本,在降低训练成本的同时保持甚至提升模型性能,一直是业界关注的焦点。传统的做法往往将数据价值视为静态属性,忽略了数据与目标模型能力分布之间的兼容性。针对这一痛点,来自多所高校和科研机构的研究团队提出了一种名为 **Data-DPO** 的新方法,旨在实现面向目标模型的数据选择,相关论文已提交至 arXiv(编号:2608.16926)。 ## 核心思路:从静态评估到动态适配 Data-DPO 的核心理念是:**数据价值并非一成不变,而是相对于特定模型而存在**。同一份数据,对于能力较强的模型可能价值有限,但对于能力较弱的模型则可能是宝贵的训练素材。因此,数据选择应当充分考虑目标模型的当前能力状态。 具体而言,Data-DPO 通过**一步探针**(one-step probing)机制,观察目标模型在不同样本上的局部训练反馈,将样本间的激活差异转化为成对的数据偏好(pairwise data preferences)。随后,训练一个轻量级的奖励模型,来学习这种“目标模型感知”的数据偏好。在最终选择阶段,Data-DPO 综合了目标模型偏好、外部质量评分以及边际多样性(marginal diversity),构建出更为稳定且有效的训练子集。 ## 实验验证:超越现有基线 研究团队在 **Vision-Flan** 和 **LLaVA-CoT** 两个数据集上进行了实验,结果显示 Data-DPO 在多种数据预算下均一致优于现有的数据选择基线,并且能够稳定超越使用全部数据进行训练的性能。这意味着 Data-DPO 不仅能够降低训练成本,还能带来性能上的提升,为 LLM 后训练的数据工程提供了新的思路。 ## 行业意义:从“数据越多越好”到“精准匹配” 这一研究的价值在于,它打破了传统“数据越多越好”的直觉,强调了数据与模型之间的动态匹配关系。在实际应用中,不同厂商的模型架构、预训练数据分布各不相同,对微调数据的需求也存在差异。Data-DPO 提供了一种可定制的数据选择方案,有望帮助企业更高效地利用数据资源,加速模型迭代。 ## 局限与展望 尽管实验结果令人鼓舞,但该研究仍处于预印本阶段,尚未经过同行评审。此外,方法的计算开销(如探针训练和奖励模型训练)以及在不同规模模型上的泛化能力,仍需进一步验证。未来,团队计划探索如何将 Data-DPO 扩展到更大规模的模型和更多样的任务场景,并尝试与数据合成技术结合,进一步提升数据利用效率。 总之,Data-DPO 为 LLM 后训练中的数据选择问题提供了一个新颖的视角,其“目标模型导向”的设计理念值得关注。随着大模型应用日益普及,数据工程的精细化将成为决定模型性能的关键因素之一。

HuggingFace1个月前原文

随着监督微调数据规模的不断扩大,如何从庞大的候选池中筛选出高价值子集,已成为降低训练成本、提升模型性能的关键挑战。现有的数据选择方法通常直接在原始嵌入空间中度量数据多样性,但这种方式容易将主导语义方向、细粒度监督差异和局部噪声纠缠在一起,导致选择结果不够精准。 针对这一问题,来自上海交通大学等机构的研究团队提出了一种名为 **MASS** 的新方法,将数据选择形式化为**从粗到细的分层覆盖问题**。MASS 首先利用密集自编码器学习低维主流形坐标,实现粗粒度的语义分组;随后在每个组内,借助 TopK 稀疏自编码器进行质量感知的稀疏特征覆盖。这种设计既保留了全局语义结构,又兼顾了局部细节特征,从而更有效地挑选出代表性数据。 在 **Vision Flan** 和 **LLaVA-CoT** 两个基准上的实验表明,MASS 在多种数据预算下均稳定优于现有的强基线方法,并且在某些设置下,仅使用少量数据子集就能达到甚至超越全量数据训练的效果。这一结果意味着,MASS 有望显著降低 LLM 后训练的数据需求,为高效微调提供新的思路。 ## 方法核心 MASS 的流程分为两个阶段: 1. **粗粒度语义分组**:通过密集自编码器将高维嵌入压缩到低维主流形空间,利用几何结构进行语义聚类,避免原始空间中噪声的干扰。 2. **细粒度稀疏覆盖**:在每个语义组内,使用 TopK 稀疏自编码器提取稀疏特征,并基于质量感知的覆盖策略选择数据点,确保所选子集能充分代表组内的多样性。 这种分层设计使得 MASS 既能把握全局语义,又能捕捉局部关键特征,从而在数据选择上实现更好的平衡。 ## 实验亮点 在 Vision Flan 数据集上,MASS 在 10%、25%、50% 等不同数据预算下,均取得了比随机选择、核心集选择等基线更高的下游任务准确率。在 LLaVA-CoT 上,MASS 同样表现出色,甚至在 25% 数据预算下就超过了全量微调的效果。这些结果凸显了 MASS 在数据效率上的巨大潜力。 ## 意义与展望 这项研究为 LLM 后训练的数据选择提供了新的视角。通过引入分层覆盖和稀疏特征,MASS 有效解决了传统方法在嵌入空间中度量多样性的局限。未来,该方法有望扩展到更多模态和更大规模的数据集,进一步推动高效训练的发展。

HuggingFace1个月前原文