SheepNav

AI 资讯

每日聚合最新人工智能动态

Zayphra 团队近日发布了 **ZAYA1-8B** 技术报告,一款聚焦推理能力的混合专家(MoE)模型。该模型总参数量为 8B,但每次推理仅激活 **700M 参数**,却在多个高难度数学与编程基准上达到甚至超越了 DeepSeek-R1-0528 等更大规模的模型。 ## 架构与训练:从零开始的推理优化 ZAYA1-8B 基于 Zyphra 自研的 **MoE++ 架构**,其预训练、中期训练和监督微调(SFT)均运行在 **全栈 AMD 计算、网络与软件平台** 上。与许多后期才加入推理能力的模型不同,ZAYA1-8B 从预训练阶段起就引入了推理数据,并采用了一种 **保留答案的裁剪方案**,确保在压缩序列长度的同时不丢失关键推理结果。 后训练阶段采用 **四阶段强化学习(RL)级联**: 1. **推理热身**:在数学和谜题数据上进行 RL 训练,激活基础推理能力。 2. **RLVE-Gym 课程**:覆盖 400 个任务的强化学习环境,提升泛化性。 3. **数学与代码 RL**:结合测试时计算(test-time compute)轨迹和基于竞赛编程参考的合成代码环境,强化专项能力。 4. **行为 RL**:针对聊天和指令跟随进行优化,确保模型在通用场景下的可用性。 ## 性能亮点:小参数,大能力 尽管激活参数不足 1B,ZAYA1-8B 在多个基准上表现出色: - **数学推理**:在 AIME 2025 上达到 91.9%,HMMT 2025 上达到 89.6%(使用 Markovian RSA 方法)。 - **编程任务**:在竞赛级编程基准上与 DeepSeek-R1-0528 持平或更优。 - **对比竞品**:与 Gemini-2.5 Pro、DeepSeek-V3.2、GPT-5-High 等更大模型相比,差距显著缩小。 ## 创新方法:Markovian RSA 测试时计算 ZAYA1-8B 引入了一种名为 **Markovian RSA** 的测试时计算方法。该方法递归地聚合多个并行推理轨迹,但每轮仅向前传递 **有限长度的推理尾部**(默认 4K tokens)。这种设计大幅降低了测试时的计算开销,同时保留了多路径探索的优势,使模型在数学推理上接近甚至超越超大模型。 ## 行业意义与展望 ZAYA1-8B 的成功证明,通过精心设计的架构和训练策略,**小参数模型可以在特定领域挑战大模型**。这为资源受限的场景(如边缘设备、实时应用)提供了新的可能性。同时,其全栈 AMD 平台的训练经验也展示了非 NVIDIA 生态在 AI 领域的潜力。未来,Zayphra 计划进一步优化 MoE++ 架构,并探索更高效的测试时计算方法。

Anthropic2个月前原文

生成模型(如扩散模型和大语言模型)的中间表示操控(steering)是一种在部署后对齐和安全场景中广泛使用的技术,但长期以来缺乏系统的理论支撑。近日,一篇发表于 arXiv 的论文《MidSteer: Optimal Affine Framework for Steering Generative Models》填补了这一空白,提出了一个统一且最优的仿射操控框架。 ## 从概念擦除到概念切换 论文首先建立了操控与仿射概念擦除之间的理论联系。作者证明,标准的概念移除方法实际上是 LEACE(一种闭式仿射擦除方法)的特例。在此基础上,他们提出了 **LEACE-Switch**,一个用于概念切换(concept switching)的最优仿射框架,并明确了其成立所需的假设条件。 然而,LEACE-Switch 的假设在实际应用中可能过于严格。为此,作者进一步提出了 **MidSteer(最小扰动概念操控)**,这是一个更通用的仿射框架,它放松了 LEACE-Switch 的假设,允许进行 **有方向、最小扰动** 的变换。MidSteer 的核心思想是:在保持生成模型原有性能(即最小化对表示的扰动)的同时,精确地将指定概念的方向进行操纵(如增强或抑制)。 ## 跨模态、跨架构的验证 论文在多个任务、模态和架构上验证了 MidSteer 的效果,包括 **视觉扩散模型**(如 Stable Diffusion)和 **大语言模型**(如 GPT-2 和 Llama)。实验结果表明,MidSteer 在概念操控的准确性、生成质量的保持以及计算效率方面均优于现有方法。 例如,在扩散模型中,MidSteer 可以更精准地控制图像中的属性(如“微笑”或“年龄”),同时不改变与目标属性无关的部分;在语言模型中,它可以用于调整输出的情感倾向或主题,而避免生成不自然或语法错误的文本。 ## 理论贡献与行业意义 这项工作的理论贡献在于: - 首次将操控问题形式化为仿射变换下的优化问题,并给出了最优闭式解。 - 统一了概念擦除和概念切换两种任务,揭示了它们的内在联系。 从行业角度看,MidSteer 为生成模型的安全部署提供了更可靠的工具。例如,在内容审核中,可以精确移除有害概念(如暴力、偏见),同时保留模型的其他能力;在个性化生成中,可以按需增强特定风格或主题。由于 MidSteer 是 **模型无关** 的,它可以直接应用于现有预训练模型,无需重新训练或微调,降低了落地成本。 ## 小结 MidSteer 不仅为生成模型操控提供了坚实的理论基础,还给出了一个实用且高效的算法。随着生成模型在更多领域落地,这类可解释、可控制的技术将变得越来越重要。未来,研究者可以进一步探索 MidSteer 在多概念联合操控、动态环境适应等方向的扩展。

HuggingFace2个月前原文

大型语言模型(LLM)越来越多地应用于需要多轮交互的对话场景,但现有系统大多被动响应,缺乏主动获取缺失信息的推理机制。针对这一瓶颈,研究团队提出了一种名为 **BALAR(Bayesian Agentic Loop for Active Reasoning)** 的任务无关外循环算法,无需微调即可让 LLM 智能体与用户进行结构化多轮交互。 ## 核心机制:主动提问与信念更新 BALAR 的核心思想是让智能体像人类侦探一样,在信息不足时主动提问。具体来说,它维护一个关于潜在状态的结构化信念,通过最大化期望互信息来选择最具信息量的澄清问题。当当前状态表示不足以解释观察时,算法会动态扩展状态空间——这种自适应能力使其能灵活应对复杂推理任务。 ## 性能表现:三大基准大幅领先 研究者在三个不同领域的基准上评估了 BALAR: - **AR-Bench-DC**(侦探推理):准确率提升 **14.6%** - **AR-Bench-SP**(思维谜题):准确率提升 **38.5%** - **iCraft-MD**(临床诊断):准确率提升 **30.5%** 所有测试中,BALAR 均显著优于包括标准 ReAct 循环、主动提示等在内的基线方法。尤其在需要多步逻辑推理的谜题任务上,准确率提升近四成,表明主动提问策略对复杂推理有质的帮助。 ## 行业意义:从被动对话到主动探索 当前 LLM 应用(如客服、医疗问诊、故障排查)普遍采用“一问一答”模式,系统只能等待用户提供信息。BALAR 的提出让智能体能够自主识别信息缺口并主动追问,这类似于人类专家在诊断或调查中的行为。值得注意的是,该方法无需额外训练即可部署,降低了实际应用的门槛。 ## 局限与展望 论文未披露计算开销细节——每次提问都需计算互信息,在实时场景中可能带来延迟。此外,状态空间的动态扩展策略尚需更严谨的理论分析。不过,BALAR 为构建更具自主性的 AI 系统提供了一个优雅的贝叶斯框架,未来可望与工具调用、多模态输入等结合,应用于更复杂的交互环境。

Anthropic2个月前原文

一项新研究展示了如何利用现有城市监控摄像头,通过人工智能与计算机视觉技术,快速评估人行道延伸、临时安全岛等“软干预”措施对交通速度与安全的影响。 ## 研究背景 城市交通管理中的“软基础设施”指非永久性、低成本的道路改造措施,例如临时隔离桩、彩色铺装或凸起人行横道。这类干预措施安装灵活、调整方便,但传统效果评估依赖人工测速或临时传感器,成本高且样本有限。 ## 方法创新 来自北卡罗来纳大学夏洛特分校和明尼苏达大学的研究团队提出一个AI分析框架,直接利用城市已有的闭路电视(CCTV)监控摄像头进行数据采集。系统采用深度学习模型检测车辆,并通过**透视变换**将图像中的像素运动转换为真实世界速度,无需额外硬件。 研究在明尼阿波利斯市的多个路口进行了**前后对比实验**,并在干预后第1周和第2周进行重复测量,以观察效果的持续性。 ## 主要发现 - **无信号灯路口**:平均车速下降高达**18.75%**,85%分位车速下降**16.56%**,穿行交通量减少**12.2%**。 - **信号灯路口**:除个别地点外,平均车速下降最高达**20.0%**,85%分位车速下降**17.19%**。 这些数据表明,软干预措施能有效降低车速并减少不必要的穿行交通,且效果在两周内保持稳定。 ## 行业意义 该研究为交通政策评估提供了一种**低成本、可扩展**的新范式。传统方法需要部署专用传感器或人工调查,而AI+CCTV方案利用现有基础设施,数据采集几乎零边际成本,且能覆盖更多路口。 这一思路与智慧城市的发展方向高度契合。随着城市摄像头网络的普及,AI分析不仅能用于交通管理,还可延伸至行人流量统计、违规行为检测等领域。论文已被《国际交通研究杂志》接收,预计将为城市交通规划提供实用工具。 ## 局限与展望 研究也指出,单摄像头视角存在遮挡问题,且速度估算精度受摄像头安装角度影响。未来可结合多摄像头融合或边缘计算提升实时性。尽管如此,该工作已证明AI在交通政策评估中的巨大潜力。

Anthropic2个月前原文

arXiv:2605.05403v1 Announce Type: new Abstract: This position paper argues that sycophancy in LLMs is a boundary failure between social alignment and epistemic integrity. Existing work often operationalizes sycophancy through external behavior such as agreement with incorrect user beliefs, position reversals, or deviation from an objective standard of correctness. These formulations capture only overt forms of the phenomenon and leave subtler boundary failures involving epistemic integrity and s

Anthropic2个月前原文

arXiv:2605.05407v1 Announce Type: new Abstract: Scaling LLM-based embodied agents from text-only environments to complex multimodal settings remains a major challenge. Recent work identifies a perception-reasoning-decision gap in standalone Vision-Language Models (VLMs), which often overlook task-critical information. In this paper, we introduce PRISM, a framework that tightly couples perception (VLM) and decision (LLM) through a dynamic question-answer (DQA) pipeline. Instead of passively accep

Anthropic2个月前原文

金融文档问答(QA)要求对分散在公司文件中的异构证据(结构化表格、文本叙述和脚注)进行复杂的多步数值推理。现有的检索增强生成(RAG)方法采用单次检索然后生成的范式,难以应对金融分析中常见的组合推理链。为此,研究人员提出了 **FinAgent-RAG**,一种智能体 RAG 框架,它通过迭代检索-推理循环与自我验证来编排流程,专为金融数值推理的精度要求而设计。 ## 三大核心创新 FinAgent-RAG 集成了三项领域特定创新: 1. **对比金融检索器(Contrastive Financial Retriever)**:通过难负样本挖掘训练,能够区分语义相似但数值不同的金融段落,提升检索精度。 2. **程序化思维推理模块(Program-of-Thought)**:生成可执行的 Python 代码进行精确算术运算,避免依赖容易出错的 LLM 心算推理。 3. **自适应策略路由器(Adaptive Strategy Router)**:根据问题复杂度动态分配计算资源,在 FinQA 数据集上减少 **41.3%** 的 API 成本,同时保持准确率。 ## 性能表现 在三个基准数据集上的广泛实验表明,FinAgent-RAG 取得了领先结果: - **FinQA**:执行准确率 **76.81%** - **ConvFinQA**:**78.46%** - **TAT-QA**:**74.96%** 相比最强基线,准确率提升了 **5.62 至 9.32 个百分点**。消融实验、跨四种 LLM 的骨干网络评估以及部署成本分析,均证实了该框架的鲁棒性和在实际金融机构中的可行性。 ## 行业意义 当前金融分析领域,大语言模型(LLM)虽展现出强大能力,但在需要精确数值计算的场景中仍存在幻觉和计算错误问题。FinAgent-RAG 通过将检索、代码生成和自适应资源分配相结合,为金融文档 QA 提供了一种更可靠、更高效的解决方案。该工作已提交至《Expert Systems with Applications》期刊,并公开了详细的技术报告(22 页,含 11 张图表和 13 张表格)。 > 一句话总结:FinAgent-RAG 通过智能体循环、代码推理和自适应路由,在金融数值问答上显著超越现有方法,同时降低了计算成本。

Anthropic2个月前原文

深度学习中一个广为接受的信念是:损失景观中的平坦极小值(flat minima)比尖锐极小值具有更好的泛化性能,基于此的算法如Sharpness-Aware Minimization(SAM)被广泛使用。然而,一篇来自arXiv的最新论文提出了颠覆性观点:平坦极小值可能只是一个“幻觉”。 该研究指出,通过保函数重参数化(function-preserving reparameterisation),可以在不改变任何预测的情况下,将任意极小值的Hessian矩阵特征值放大两个数量级。这意味着权重空间的几何形状可以被任意“制造”,因此它不能是泛化的根本原因。 作者提出,真正的驱动力是“弱性”(weakness),即在学习者的具身语言中与所学函数兼容的完成体积。弱性是重参数化不变的,因为它定义在网络“做什么”而非“如何参数化”上。理论证明,弱性在可交换需求下是极小极大最优的,并且PAC-Bayes界限之所以有效正是因为它们与弱性相关。 实验提供了有力证据:在MNIST数据集上,大批次训练带来的泛化优势随着数据量增加而消失——从n=2000时的+1.6%下降到n=60000时的+0.02%。这表明,一个预测能力依赖于数据量的量并非原因,而是混杂因子。 进一步,作者在100个相同架构和训练过程的网络上进行正面比较:对于MNIST,弱性显著预测泛化(ρ=+0.374,p=0.00012),而尖锐度呈负相关(ρ=-0.226),简单性(simplicity)则完全不显著(p=0.848)。对于Fashion-MNIST,弱性依然有效(ρ=+0.384,p=8.15×10⁻⁵),但简单性有一定预测力。 结论:平坦极小值从来就不是答案。简单性是数据集依赖的,而弱性是不变的。这一发现挑战了当前对损失景观几何的普遍理解,可能引导未来研究转向更本质的泛化机制。

HuggingFace2个月前原文

AI 安全政策的制定高度依赖人工或大模型对输出内容的标注,但标注者之间的分歧长期困扰着行业。这种分歧究竟源于操作失误、政策歧义,还是价值观差异?传统方法难以低成本区分。最新研究提出 **Annotator Policy Models (APMs)**,通过可解释模型从标注行为中逆向学习标注者的内部安全政策,无需额外询问即可揭示分歧根源,为更精准、透明的安全政策设计提供新工具。 ## 分歧的三种来源 安全政策定义了 AI 输出的“安全”与“不安全”边界,指导数据标注和模型开发。然而,标注不一致普遍存在。研究将其归为三类: - **操作失误**:标注者误解或错误执行任务,需加强质量控制; - **政策歧义**:政策文本表述模糊,导致不同解读,需澄清措辞; - **价值多元**:标注者本身持有不同的安全观念,需通过讨论整合多元视角。 直接询问标注者理由成本高昂,且自我报告往往不可靠——无论是人类还是大模型,都难以准确回溯决策过程。 ## APMs:从行为中学习政策 APMs 的核心思路是:仅利用标注者的标签行为数据,训练一个可解释的模型来“模仿”其内部安全政策。模型准确率超过 80%,并能忠实预测标注者在反事实编辑下的反应,在受控实验中成功还原已知的政策差异。 这意味着研究者可以“看见”标注者的推理逻辑,而无需额外负担。 ## 两大应用场景 论文展示了 APMs 的两项关键能力: 1. **揭示政策歧义**:通过对比不同标注者的模型,发现他们对同一安全指令的解读差异。例如,部分标注者可能更看重“冒犯性语言”,而另一些则聚焦“事实准确性”。 2. **揭示价值多元**:发现不同人口统计学群体在安全优先级上的系统性差异,例如年龄、文化背景对“有害内容”定义的显著影响。 这些能力为政策设计提供了数据驱动的基础,使安全标准更具包容性。 ## 行业意义 当前 AI 安全领域,标注一致性是评估模型可靠性的关键指标。APMs 提供了一种低成本、非侵入式的诊断工具,帮助团队区分“需要澄清政策”还是“需要尊重多元观点”。随着 AI 系统部署到全球不同文化环境,理解标注者的内在政策差异将成为安全治理的重要环节。 论文发表于 ACM FAccT 2026,共 38 页,包含 13 张图表。代码与数据尚未公开,但方法本身具有较高的实用潜力。

Anthropic2个月前原文

arXiv:2605.05216v1 Announce Type: new Abstract: Large language models (LLMs) with a large number of parameters achieve strong performance but are often prohibitively expensive to deploy. Recent work explores using teams of smaller, more efficient LLMs that collectively match or even outperform a single large model. However, jointly updating multiple agents introduces compounding distribution shifts, making coordination and stability during training difficult. We address this by introducing Seque

HuggingFace2个月前原文

物理信息神经网络(PINN)近年来在科学机器学习领域备受关注,其核心优势在于能将物理定律(如偏微分方程)嵌入网络训练,从而在数据稀缺时仍能做出合理预测。然而,传统PINN面临一个经典难题:**物理残差与数据损失之间的权重如何设定**?固定权重或启发式调参往往导致训练不稳定或泛化能力差,尤其在仅有少量实验或模拟数据时,这一问题尤为突出。 近日,一篇发表于arXiv的论文提出了一种**自监督PINN框架**,通过引入一个**可学习的混合神经元**,动态调整物理项与数据项的贡献比例。该机制基于**不确定性**自动平衡两项损失——不确定性较高的项权重自动降低,从而避免训练被噪声或误差较大的信号主导。这相当于让网络自己“学会”如何权衡物理先验与观测数据,无需人工反复调参。 ## 关键创新:可学习混合神经元 论文的核心模块是一个**可学习的混合神经元**,它输出两个权重系数,分别对应物理残差损失和数据损失。权重通过softmax归一化,并随训练迭代更新。这种设计借鉴了多任务学习中的不确定性加权思想,但专门适用于物理与数据两种异构监督信号的平衡。实验表明,该机制能显著提升训练稳定性,并让模型在测试集上取得更低的误差。 ## 迁移学习:让知识“举一反三” 为进一步缓解数据稀缺问题,论文还整合了**迁移学习策略**:先在一个相关但数据充足的源域上预训练模型,再将其表示迁移到目标域,仅用少量目标域数据进行微调。这种“先学通识、再学专长”的方式,大幅降低了目标域所需的数据量。 ## 验证案例:液态金属微型散热器的热传导预测 作者在**液态金属微型散热器**的热传导预测任务上验证了框架。仅使用**87个CFD模拟数据点**,自适应PINN的预测误差**低于8%**,显著优于浅层神经网络、核方法以及仅依赖物理方程的基线模型。这一结果充分展示了该方法在**工业级数据稀缺场景**下的实用价值。 ## 行业意义与未来方向 这项研究为**科学机器学习中的数据-物理融合**提供了一条通用且鲁棒的路径。其意义不仅在于性能提升,更在于**自动化**与**可迁移性**:无需专家手动调节超参数,且能跨系统复用知识。未来,该框架有望应用于流体动力学、材料建模、气候预测等更多领域,推动PINN从实验室走向真实工程。 当然,论文也指出当前工作主要基于仿真数据,未来需在真实实验数据上进一步验证。此外,可学习混合神经元的计算开销与更复杂的物理约束形式(如多PDE耦合)下的表现,也是值得探索的方向。

HuggingFace2个月前原文

**传统表示系统**(如傅里叶级数、小波)虽解析优雅,却难以适应高维数据的复杂结构;**神经网络**虽能学习特征,却常以牺牲可解释性和数学透明性为代价。arXiv上最新的论文《Data-Driven Variational Basis Learning Beyond Neural Networks》提出了一种**非神经框架DVBL**,直接通过变分优化从数据中学习基函数,在保持显式、可解释的同时实现自适应表示。 ### 核心思路:基函数作为优化变量 DVBL将**基原子**视为可直接优化的变量,与样本特定系数、潜在线性演化算子联合学习。这不同于固定基扩展,而是让基函数根据数据内在结构自动调整,形成数据自适应的基展开。 ### 理论保障与算法设计 论文严格证明了**极小值存在性**,并设计了**交替最小化算法**,具有块坐标下降的收敛性质。同时给出了**系数恢复**与**基可辨识性**的条件,确保学习到的基函数有实际意义。此外,流形正则化与动力学正则化可被无缝集成,无需借助任何神经网络架构。 ### 与现有方法的对比 - **经典字典学习**:通常基于稀疏编码,基原子更新依赖固定规则;DVBL则直接变分优化,更具灵活性。 - **谱方法与Koopman算子**:限于线性或特定动力学假设;DVBL可处理更一般的非线性数据。 - **深度表示学习**:依赖多层非线性变换,黑箱性强;DVBL保持显式基展开,数学上更透明。 ### 意义与展望 DVBL为**可解释的AI**提供了一条新路径:在保留数据驱动适应性的同时,恢复经典表示理论的清晰结构。未来可应用于物理建模、动力系统识别、信号处理等领域,尤其适合需要**严格数学保证**且对解释性要求高的场景。不过,论文目前主要提供理论框架与算法设计,大规模实验验证有待后续工作。 ## 小结 这项研究提醒我们:**神经网络的统治地位并非不可动摇**。通过巧妙的设计,非神经方法同样能在适应性与可解释性之间取得优雅平衡。DVBL或许只是开始,未来或将涌现更多“后神经网络”时代的表示学习范式。

HuggingFace2个月前原文

随着企业级AI代理越来越多地被部署在受限检索系统、委托工作流和策略约束的决策环境中,一个微妙而危险的问题浮出水面:**系统可能正确执行了访问控制,却生成一个看似完整的答案,而关键证据实际上位于调用者的授权边界之外**。这种“沉默过滤”(silent filtering)行为可能导致灾难性后果。为此,研究者Krti Tallam提出了 **Partial Evidence Bench**,一个确定性基准测试,旨在量化这种授权受限证据下的失败模式。 ## 基准测试的核心设计 Partial Evidence Bench 包含三个场景家族——**尽职调查、合规审计和安全事件响应**,共72个任务。每个任务都配备了ACL分区语料库、完整答案、授权视图答案、完整性判断以及结构化缺口报告。系统在四个维度上接受评估:答案正确性、完整性感知、缺口报告质量以及不安全完整性行为。 ## 关键发现与基线结果 基线测试结果令人警醒:**在所有场景中,沉默过滤都表现出灾难性的不安全行为**。相比之下,采用“明确失败并报告”策略的系统能够消除不安全完整性,而不会导致任务退化为简单的弃权。初步的真实模型运行显示,不同模型和场景在是否过度声称完整性、保守地低估完整性或以企业可用形式报告不完整性方面存在显著差异。 ## 行业意义 这项工作的核心贡献在于:**使一个治理关键的代理失败模式变得可测量**,无需人工评判或易受污染的静态语料。对于正在将AI代理引入合规、审计和高风险决策的企业而言,Partial Evidence Bench 提供了一种工具来识别和缓解“看起来正确但实际遗漏关键证据”的风险。随着代理系统自主性增强,这种基准测试将成为AI治理和安全评估的重要基础设施。

Anthropic2个月前原文

慢性鼻窦炎(CRS)是一种常见的异质性炎症性疾病,导致显著的发病率和医疗成本。由于症状与过敏性鼻炎等常见疾病重叠,且表型多样,早期识别极为困难。此前预测研究多依赖单一机构队列,缺乏人群层面的泛化能力。 为解决这一问题,研究团队利用美国国立卫生研究院“All of Us”研究项目的全国性纵向电子健康记录数据,基于患者确诊前两年的病史预测CRS诊断。面对编码EHR数据中特征稀疏和维度极高(约11万个候选编码)的挑战,他们设计了一种混合特征选择流程,结合基于患病率的统计筛选与基于模型的重要性排序,最终将特征压缩至100个可解释的变量。 为了捕捉不同人口群体的异质性,研究针对六个成年性别-生命阶段亚组训练了分层模型,并进行亚组特定的超参数调优。最终框架的整体AUC达到0.8461,较最佳基线提升0.0168。 **关键结论**:该研究证明了常规收集的EHR数据能够支持具有人群代表性的CRS风险分层,有望在初级保健中实现更早的分诊和转诊优先级排序。论文已被IEEE EMBC 2026接收,共同第一作者为Sicong Chang和Yidan Shen。

HuggingFace2个月前原文

机器学习中的预测多样性与混沌动力学长期被视为独立挑战,但最新研究首次从理论上揭示了二者的深层关联。来自多所机构的研究团队提出“地平线约束Rashomon集合”框架,揭示了混沌系统中模型多样性随预测步长演化的规律,并在风能、交通、天气等真实场景中将决策质量提升18%-34%。 ## 从静态到动态:Rashomon集合的混沌演化 传统机器学习中,Rashomon集合指代在训练集上表现相近却结构迥异的模型群。在静态预测任务里,这个集合相对固定;但面对混沌系统,情况截然不同——**初始表现相似的模型会因混沌动力学特性指数级发散**。研究发现,有效Rashomon集合的收缩速率由最大李雅普诺夫指数决定,这意味着预测步长越长,真正“等效”的模型越少。 ## 理论突破:李雅普诺夫加权度量 团队提出了**李雅普诺夫加权度量**,为预测不一致性提供更紧的上界。这一理论工具不仅能精确量化模型分歧,还为下游决策提供了新思路:与其追求绝对精度,不如选择在特定预测时域内对决策效用最稳健的模型。基于此开发的“决策对齐选择算法”,在Lorenz-96、Kuramoto-Sivashinsky等合成混沌系统以及真实场景中均表现优异。 ## 应用价值:安全关键领域的决策优化 在风力发电预测中,传统方法可能因模型分歧导致调度失误,而新框架通过约束有效模型集,将决策失误率降低近三成。交通流量预测和天气预报也验证了类似效果。研究团队指出,这一框架为**在安全关键混沌场景中部署机器学习提供了理论指导**,例如金融风险控制、气候建模等需要长时预测的领域。 ## 行业意义 该研究首次建立了混沌理论与预测多样性的严格联系。对于AI从业者而言,它提示了一个重要转向:在复杂动态系统中,**模型选择不应仅看静态精度,而需评估其在混沌演化中的决策鲁棒性**。未来,该框架有望与强化学习、在线学习等方向结合,推动更可靠的动态决策系统发展。

HuggingFace2个月前原文

大语言模型(LLM)的推理延迟优化一直是业界关注的核心问题,其中 **前缀缓存(Prefix Caching)** 是一种被广泛采用的关键技术。传统方法假设每个 token 的键值(Key/Value)都需要密集缓存,以便在共享前缀的请求之间复用计算结果。然而,随着 **状态空间模型(State-Space Models, SSM)** 和混合架构的兴起,这一假设正面临根本性挑战。 ### 问题:不对称的缓存需求 在自回归 Transformer 中,每个 token 都需要存储完整的键值对(KV Cache),缓存规模随序列长度线性增长。而 SSM 的循环层(Recurrent Layer)具有不同的特性:它可以从一个单一的隐藏状态恢复,无需保留完整的 token 历史。这种不对称性创造了一个全新的设计空间——介于“完全不缓存”和“密集缓存”之间。 ### 方案:稀疏检查点缓存 来自俄罗斯的研究团队(Mikhail Shirokikh 与 Sergey Nikolenko)在最新论文中提出了 **稀疏前缀缓存(Sparse Prefix Caching)** 方法。其核心思想是:在稀疏的检查点位置存储精确的循环状态,当缓存命中时,从最深的已存储检查点恢复,并精确重算剩余的 token 后缀。 该方法形式化为一个 **检查点放置优化问题**:给定重叠深度的分布,通过一个精确的 O(NM) 动态规划算法,找到最优的检查点位置集合。这里的“重叠深度”指的是两个请求共享前缀的长度分布。 ### 实验:帕累托前沿的改进 在真实数据集(QuALITY 和 System Prompts)上的测试表明,**分布感知的缓存策略** 在所有固定预算基线中占据帕累托前沿的支配地位。与最强的启发式方法(块缓存)相比,该方法在匹配或超越其性能的同时,通常使用更少的检查点。尤其在低缓存预算下,当重叠分布高度非均匀时,增益最为显著。 ### 适用范围与优势 该方法最适合 **多个请求共享一个较大但不完全相同的前缀** 的场景,例如针对同一份长文档提出不同问题。它保持精确输出,不改变循环计算本身,也不需要新的循环更新内核。对于混合模型(Hybrid Models),它可以与现有的 KV 缓存压缩技术结合使用。 ### 行业意义 随着 Mamba、RWKV 等线性注意力或循环架构逐渐进入生产部署,传统的 KV 缓存优化方法需要重新审视。稀疏前缀缓存提供了一种轻量级、理论支撑强且易于集成的优化方案,尤其适合长上下文和文档问答等实际场景。 未来,该技术有望与推理系统(如 vLLM、TensorRT-LLM)中的调度策略深度结合,进一步降低重复计算开销,提升吞吐量。

HuggingFace2个月前原文
马斯克诉奥特曼案证据曝光:微软高管曾对OpenAI持怀疑态度

在马斯克诉奥特曼案的庭审中,一封2017年至2018年间的微软内部邮件链被公开,揭示了这家科技巨头对OpenAI的早期矛盾心态。当时,OpenAI还只是一个非营利研究实验室,主要精力放在开发能玩电子游戏的AI系统上。微软CEO萨提亚·纳德拉在祝贺OpenAI赢得游戏比赛后,收到了奥特曼请求价值3亿美元Azure云计算服务的邮件。微软高管们对此反应不一:AI团队认为“没有价值”,但公司又担心拒绝支持会将OpenAI推向竞争对手亚马逊的怀抱。最终,微软在2018年决定投资10亿美元,并在此后获得高达200亿美元的回报。这些邮件展示了如今被视为最成功科技合作之一的起点,竟是充满犹豫与算计的商业决策。

WIRED AI2个月前原文

2026 年对于 Windows 内容创作笔记本电脑而言,是竞争激烈的一年。继三星 Galaxy Book6 Ultra 和戴尔 XPS 16 之后,联想也拿出了自己的王牌——**联想 Pro 9i Aura Edition**。经过 ZDNET 的深度测试,这款笔记本在持续性能释放、屏幕素质和散热能力上表现抢眼,堪称戴尔 XPS 系列最有力的竞争者之一。 ### 性能:持续输出是最大亮点 与许多轻薄本在长时间高负载下性能骤降不同,Pro 9i Aura Edition 凭借强大的散热系统,在持续渲染或编译任务中保持了稳定的性能输出。测试中,其多核心跑分不仅领先同代竞品,且长时间运行后降频幅度极小。这意味着视频剪辑师、3D 建模师等专业用户可以在不插电或高负载场景下获得更可靠的生产力体验。 ### 屏幕与设计:视觉与触感的双重升级 该机配备了一块高亮度、高色域的显示屏,支持高刷新率,色彩准确度令人满意。无论是 HDR 视频调色还是平面设计,都能呈现细腻的层次。外观上,联想采用了更为简洁的金属机身,边缘处理圆润,整体质感向高端商务本看齐,但重量控制中规中矩。 ### 续航与价格:短板与门槛 不过,Pro 9i Aura Edition 并非没有妥协。在测试中,其电池续航表现**低于预期**,高强度使用下仅能维持约 4-5 小时,这或许是其为性能释放付出的代价。此外,起售价偏高,使得它更偏向预算充足的专业用户。 ### 结语:谁适合入手? 如果你是追求**极致持续性能**的内容创作者,且不介意续航短板和较高预算,联想 Pro 9i Aura Edition 无疑是当前市场上最值得考虑的 Windows 笔记本之一。它与戴尔 XPS 16 的正面交锋,将让 2026 年的高端笔记本市场更加精彩。

ZDNet AI2个月前原文

OpenAI 于周四宣布,其 API 将新增多项语音智能功能,旨在帮助开发者构建能够与用户进行对话、转录和翻译的应用程序。新推出的 **GPT-Realtime-2** 模型基于 GPT-5 级推理能力,可处理更复杂的用户请求,提供逼真的语音交互体验。同时发布的 **GPT-Realtime-Translate** 支持超过 70 种输入语言和 13 种输出语言的实时翻译,而 **GPT-Realtime-Whisper** 则提供实时语音转文本能力。这些功能主要面向客户服务系统,但也适用于教育、媒体、活动及创作者平台等多个领域。OpenAI 表示已内置安全防护机制,防止滥用。

TechCrunch2个月前原文
特朗普转变AI监管立场,被DOGE取代的工人竞选公职,汉坦病毒科普

本期《Uncanny Valley》播客聚焦多项科技与社会热点。首先,据最新报道,特朗普政府正考虑签署一项行政命令,旨在建立对新型AI模型的联邦监管框架。这一动向标志着特朗普在AI监管立场上的重大转变——此前,其政府更倾向于放松管制以促进创新。若该命令落地,可能要求AI开发者在部署前沿模型前进行安全测试,并向政府披露关键信息。此举反映出AI的快速演进已迫使政策制定者重新权衡创新与风险。 其次,一名因自动化工具(DOGE)而失业的工人决定竞选公职,成为技术替代劳动力的一个缩影。这一事件凸显了AI与自动化对就业结构的冲击,以及普通人如何从被动承受转向积极参与政策制定。 此外,节目还解释了近期引发关注的汉坦病毒。该病毒通过啮齿动物传播,可导致严重呼吸道疾病,但人际传播罕见。专家强调,公众无需过度恐慌,但需提高对动物接触的防护意识。 本期内容交织了政策、社会与健康议题,反映了技术变革下人类面临的多元挑战。

WIRED AI2个月前原文