随机向量功能链接（RVFL）网络以其轻量级和快速训练的特性，在机器学习领域占有一席之地。然而，传统RVFL模型在面对噪声标签、异常值和不平衡数据时表现脆弱，这限制了其在真实世界应用中的性能。为了应对这些挑战，研究人员提出了一种新的模型——基于核风险敏感均值p次幂的RVFL（KRPRVFL），该模型将RVFL的计算效率与核风险敏感均值p次幂（KRP）准则的鲁棒性相结合，通过用KRP损失替代标准的最小二乘目标，自适应地降低训练过程中受损或不可靠样本的影响，从而提升模型的稳定性和泛化能力。此外，该框架还引入了协作学习机制，使模型组件之间能够自适应交互，进一步增强在复杂和噪声环境中的鲁棒性。借助核诱导的特征映射，KRPRVFL无需显式选择隐藏层即可捕获非线性关系，保持了高效性和可扩展性。在UCI和KEEL基准数据集上的大量实验表明，KRPRVFL在准确性、鲁棒性和统计显著性方面均优于基线模型，为具有挑战性的分类任务提供了一种快速、可扩展且可靠的解决方案。
随着大语言模型（LLM）成为云计算的支柱性负载，真实的生产环境轨迹对于设计高效的推理系统至关重要。然而，以往的研究大多局限于短时间窗口，难以揭示用户与模型交互的全貌。近日，一篇来自芝加哥大学等机构的论文《A Year in LLM Serving: Workload Evolution, Caching and Load-Balancing》发布在arXiv上，首次公开了为期一年的生产环境LLM服务轨迹，为业界提供了珍贵的洞察。 ## 研究背景与数据规模 该研究基于Chutes平台的一年完整生产轨迹，涵盖了**多个模型和大量用户**，包括热门模型和长尾模型。与以往使用采样数据或合成数据不同，这份数据集完整记录了生产行为，能够支持下游研究者进行更深入的分析。研究者将从聚合、时间、模型级和用户级四个维度剖析负载特征，揭示传统聚合视图下隐藏的演变规律和用户-模型结构。 ## 核心发现：工作负载的演变与缓存 论文指出，LLM服务负载随时间变化显著，且不同模型和用户的行为模式差异巨大。例如，某些模型在特定时段出现请求高峰，而缓存命中率则受提示词复用模式影响。这些发现对设计缓存策略和负载均衡算法具有直接指导意义——例如，针对长尾模型，可能需要更智能的缓存淘汰机制；而负载均衡器若能感知模型流行度的动态变化，则可进一步优化资源利用率。 ## 对系统设计的启示 作者强调，**真实轨迹是基准测试和系统设计的基石**。通过公开这份数据集，他们希望推动更多研究关注生产环境中的真实挑战，如请求调度、KV缓存管理和多租户隔离等。论文也指出，现有模拟负载往往过于理想化，无法捕捉用户行为的突发性和长尾效应，而基于真实数据的模拟将更接近实际部署场景。 ## 未来方向 这项研究为LLM serving领域提供了宝贵的数据资产。后续工作可以基于该轨迹，探索自适应缓存策略、动态负载均衡算法，以及多模型场景下的资源编排方案。同时，如何将数据集转化为标准基准（benchmark），也是值得思考的问题。 总而言之，这份为期一年的轨迹不仅填补了LLM服务负载研究的空白，也为系统优化提供了实证基础。对于关注AI基础设施的开发者与研究者而言，这无疑是一份值得深入研读的资料。
在人工智能领域，语言模型代理（Language Model Agents）的评估通常聚焦于结果指标，如任务成功率。然而，这类指标只能告诉我们代理是否成功，却无法揭示其行为的一致性和稳定性。近期，一篇来自arXiv的论文（编号：2608.13598）提出了一个全新的视角：跨任务行为一致性（Behavioral Consistency）是独立于结果指标、可被量化测量的重要属性。研究者引入了一个名为**行为一致性指标（BCM）** 的新工具，旨在从过程层面补充传统的结果评估体系。 BCM的核心方法分为三步：首先，训练一个模型，基于代理执行轨迹的行为特征来预测任务成功与否；其次，为每条轨迹生成一个特征归因向量，用以反映不同行为特征对成功预测的贡献；最后，计算同一代理系统内所有轨迹特征归因向量的平均成对相似度，以此量化其行为一致性。 研究者对六个语言模型代理在软件工程任务上的约**9000条轨迹**进行了分析。他们发现，跨任务一致性和任务内一致性是**两个不同的维度**，且可能发生分离。具体而言，一些系统在重复执行同一任务时表现出高度可复现性，但在面对不同任务时却缺乏稳定的策略，呈现“局部可复现、全局碎片化”的特征；另一些系统则在两个尺度上都保持了一致性。这一发现揭示，仅关注同任务重测一致性（即同一任务多次尝试的行为相似性）的传统方法，无法捕捉到这种分离现象。 此外，研究还表明，行为一致性与成功率并非简单的对应关系。在成功率相近的情况下，不同系统的一致性可以存在显著差异。例如，某些前沿模型与开源模型在成功率上表现相当，但在一致性上却存在明显差距，且这一差距在控制任务难度后依然存在。这暗示了系统在策略稳定性上的本质区别。 研究者将BCM定位为一种**过程级可靠性信号**，旨在与结果指标互补，为代理的鲁棒性和可预测性提供更全面的评估。他们同时提醒，BCM的适用性依赖于特定条件，并对此进行了明确阐述。 这项研究为语言模型代理的评估体系提供了新的维度，促使我们重新思考“优秀代理”的定义：不仅要有高成功率，还要在不同任务间保持行为的一致性，这对于部署在复杂真实场景中的代理尤为重要。未来，BCM有望成为代理开发与选择过程中的关键参考指标。
主动学习（Active Learning）通过挑选最具信息量的样本，能有效降低标注成本。但一个直觉上的矛盾是：模型最不确定的样本，往往也是最难被正确标注的。那么，不确定性采样（Uncertainty Sampling）的失败，究竟是因为它选到了更多错误标签，还是因为错误集中在困难区域而格外有害？ 近期一篇来自 arXiv 的论文（编号 2608.13601）针对这一问题展开了系统测试。研究者 John Myron Uy 在三个公开的二分类表格数据集上，对比了基于边际（margin）的不确定性采样与随机采样，在三种标签噪声条件下的表现：干净标签、随机分类噪声（RCN）以及有界难度依赖噪声（难度越高的样本，噪声越大）。 实验设计相当严谨：使用 100 对配对随机种子、9 个期望噪声率（从 0 到 0.30）、标注预算从 20 到 120（干净标签延伸至 400），并采用逻辑回归作为基学习器，在每个预算下通过交叉验证重新选择正则化参数。 **核心结果**显示：在干净标签下，不确定性采样在所有数据集上均提升了归一化平衡准确率曲线下面积（AUC），提升幅度在 1.09 到 1.77 个百分点之间。然而，当引入难度依赖噪声后，情况变得复杂：在 Breast Cancer Wisconsin 数据集上，难度依赖噪声在 8 个噪声率中的 6 个上比 RCN 更削弱不确定性采样的优势；但在 Banknote Authentication 和 MAGIC Gamma Telescope 数据集上，这一现象并未出现。 进一步的“暴露匹配”（exposure-matched）分析发现，没有证据表明结构化错误位置会带来额外的普遍惩罚。换句话说，不确定性采样获取更多错误标签这一点，并不能完全解释其性能下降；错误的具体位置（是否集中在困难区域）的影响因数据集而异。 有趣的是，在干净的 MAGIC 数据上，不确定性采样在提升平衡准确率的同时，却降低了平均精度（average precision）和固定假阳性率下的真正例率。这说明，评估指标的选择会显著影响对采样策略优劣的判断。 **结论**：不确定性采样在标签效率上确实有优势，但其鲁棒性高度依赖数据集、预算、噪声结构以及评估指标。该研究提醒我们，在实际应用中，不能盲目信任不确定性采样，尤其是在标签质量参差不齐的场景下。 该论文共 14 页，包含 5 张图和 4 张表，并提供了代码和可复现材料。对于从事主动学习研究和应用的开发者而言，这项研究提供了一个重要的视角：在考虑标注成本的同时，必须将标签噪声的分布特性纳入考量。
混合专家（Mixture-of-Experts, MoE）架构通过稀疏激活在扩展大语言模型（LLM）规模的同时保持计算效率，已成为当前主流模型（如GPT-4、Mixtral）的核心设计。然而，不同MoE层对模型整体性能的相对重要性仍缺乏系统研究，尤其在模型压缩场景下。一篇新近发表于arXiv的论文（编号2608.13565）针对这一空白，对Qwen3.6-35B-A3B模型（40个MoE层，每层256个专家，top-8路由）进行了逐层敏感性分析，采用基于幅度的专家掩码方法，并在跨语言代码翻译基准XLCoST上评估。 研究在三个H100 GPU服务器上进行了多阶段实验，覆盖100、300和500个提示的评估规模。核心发现是**层敏感性具有强烈的深度依赖性**：早期层（0-9）和中间层（10-29）对专家掩码高度脆弱，而后期层（30-39），尤其是极后期层（35-39），能够容忍对低幅度专家的激进掩码。具体数据表明，在300提示规模下，对所有层统一掩码30%的专家仅保留150/300的“好+相似”输出，而聚焦后期层的策略在掩码640-1,145个专家的同时保留了249-255/300的输出。在后续500提示的保留验证集上，狭窄的极后期策略（层35-39掩码50%）实现了最佳的质量/掩码专家权衡，仅掩码10,240个专家中的640个，便保留了419/500的输出。 此外，论文还初步探索了将top-k路由宽度从8减少到6个活跃专家，在100提示的探测中观察到显著的墙钟时间减少，且未损失“好+相似”输出，但该策略与激进专家掩码的组合尚不理想。这些发现为深度感知的MoE专家掩码提供了实证基础，并为物理权重手术、基于激活的专家评分和基于训练的性能恢复铺平了道路。 **意义与展望**：这项研究对MoE模型的压缩与部署具有重要价值。传统剪枝方法往往对所有层一视同仁，而该研究揭示了“后期层冗余”的规律，意味着可以在不牺牲性能的前提下大幅减少专家数量，从而降低推理成本。未来，结合激活感知的专家评分和微调恢复，有望实现更高效的MoE模型轻量化。不过，当前实验仅基于单一模型和代码翻译任务，其结论的泛化性仍需在更多模型和任务上验证。
XGBoost 作为机器学习领域的热门算法，凭借其高效、可扩展的特性，在各类预测任务中表现出色。然而，一项最新研究揭示了其在面对数据异常时的脆弱性，并提出了一种名为 **MM-XGBoost** 的改进方案，在保持预测精度的同时显著增强了模型的稳健性。该研究由 Iris Aragón Mladosich 与 Christophe Croux 合作完成，相关论文已提交至 arXiv（编号：2608.13590）。 ## 从残差拟合到稳健性挑战 XGBoost 的核心机制是迭代地拟合决策树，以捕捉前一步预测的残差。其默认的损失函数为二次损失（即均方误差），虽然计算简便，但对异常值极为敏感。即便引入了 Huber 损失作为替代，研究指出，**垂直异常值（vertical outliers）** 和 **高杠杆点（leverage points）** 依然能显著影响模型性能。垂直异常值指目标变量中的极端值，而高杠杆点则指特征空间中偏离主体分布的样本点，两者都可能导致模型过拟合或偏差。 ## 探索替代损失函数：M、S 与 τ 估计 为了应对这一挑战，研究者将目光投向了稳健回归领域的经典方法。他们系统评估了基于 **M 估计器**、**S 估计器** 以及 **τ 估计器** 的替代损失函数在 XGBoost 框架中的表现。这些估计器通过不同的方式降低异常值对模型拟合的影响，例如 M 估计器通过迭代加权最小二乘，S 估计器则基于残差尺度的高断点估计。 实验结果显示，单一的稳健损失函数虽然提升了抗异常能力，但往往以牺牲预测精度为代价。而将两种估计器结合的两步法——**MM-XGBoost**——在两者之间达到了最佳平衡。MM 估计器通常先使用高断点的 S 估计器获得初始稳健拟合，再通过 M 估计步骤优化效率，这一策略在 XGBoost 中同样奏效。 ## 稳健与精度的权衡之道 MM-XGBoost 的提出，为在真实世界数据中应用 XGBoost 提供了更可靠的选项。在金融、医疗、工业等常含噪声和异常值的领域，该方法的实用价值尤为突出。研究团队通过大量实验验证了其有效性，并提供了详尽的补充材料（30 页正文加 15 页附录），为后续研究提供了坚实基础。 尽管 MM-XGBoost 展现出显著优势，研究者也提醒，其计算成本可能略高于标准 XGBoost，且参数调优需要更多考量。未来，如何进一步降低计算开销，并将该方法扩展到分类任务，将是值得探索的方向。 这项研究不仅深化了我们对 XGBoost 鲁棒性的理解，也为稳健机器学习提供了新的工具。对于数据科学家而言，当面对可能包含异常值的数据集时，MM-XGBoost 无疑是一个值得尝试的选项。
在AI领域，模型规模的差异往往成为知识迁移的障碍。通常，将大型模型的能力迁移到小型模型需要复杂的对齐或训练过程。然而，一项新研究提出了一种无需训练的跨规模融合方法，通过激活引导的剪枝技术，在保持性能的同时实现知识的高效转移。 ## 创新方法：Activation-Prune-Merge (APM) 来自研究者的一项新工作提出了 **Activation-Prune-Merge (APM)** 框架，旨在解决异构模型融合中的跨规模问题。传统方法通常需要神经元级别的语义对齐，而APM则另辟蹊径。它通过构建任务条件下的激活图，识别大型模型（供体）中与任务相关的关键部分，然后进行剪枝以匹配小型模型（受体）的架构。具体来说，APM会剪枝供体的层、隐藏维度、注意力头和MLP神经元，使其与受体的结构对齐，最后通过微小的插值系数将剪枝后的供体部分注入受体。 这种方法的核心思想是，将供体视为功能组件的集中来源，而非要求精确的结构移植。这种设计使得跨规模融合无需显式的语义对齐，就能实现知识转移。 ## 显著性能提升 研究者在16个基准测试上进行了评估，涵盖推理、数学、代码生成、指令遵循和分类等任务。结果显示，APM将3B规模受体的平均准确率从 **55.5%** 提升至 **60.6%**。在具体任务上，RTE准确率从64.3%大幅提升至82.3%，QNLI从52.3%提升至65.7%，BoolQ从70.8%提升至79.2%。这些数据表明，激活引导的剪枝能够有效提取供体中的可迁移能力。 ## 分析与未来方向 研究还分析了注入比例的影响，并探索了多阶段顺序融合的可能性。结果表明，激活引导的提取能够提高可迁移供体切片的质量，同时保持小比例融合的机制。这为跨规模模型融合提供了新的思路，尤其是在无需额外训练的情况下，为资源受限场景下的模型增强提供了可能。 尽管结果令人鼓舞，但研究者也指出，当前方法依赖于任务条件激活图，可能需要对每个任务进行适配。未来的工作可以探索更通用的激活引导策略，以及在不同模型家族上的适用性。 这项研究为模型融合领域带来了新的视角，证明了在无需语义对齐的情况下，跨规模知识迁移是可行的，且效果显著。随着进一步的研究，这种方法有望在模型压缩和高效部署中发挥重要作用。
在语言模型智能体（agent）的大规模评估中，一个日益普遍的做法是使用另一个语言模型作为自动评判者（judge），因为可执行的环境奖励（gold signal）往往过于昂贵、缓慢或在部署时不可用。这种评判者是一种无奖励代理（reward-free proxy），其价值取决于它是否值得信赖。然而，现有方法如 G-Eval 依赖人工编写的评分标准，或通过微调评判模型的权重，但它们都倾向于将流畅但不成功的轨迹误判为成功。对此，一项新研究提出了一种名为 **RubricForge** 的方法，通过从少量带有真实标签的轨迹中归纳出评判标准文本，从而减少过度信任（over-crediting）问题。 ## 核心思路：从真实结果中归纳标准 RubricForge 的核心在于，它不再依赖人工设计或隐式学习，而是通过**反思式进化（reflective evolution）**，基于标注轨迹不断优化一份文本形式的评判标准，使其与真实环境奖励的对齐程度最大化。最终生成的评判标准是**人类可读的文本**，因此每次评判结果都可以追溯到具体的评判准则，增强了可解释性。在应用时，RubricForge 只需一次模型调用即可对未见轨迹进行评分，且无需访问环境。 ## 实验结果：更低的假阳性率 研究者在两个基准上进行了测试：**tau-bench**（从220次 rollout 中抽取173条标注轨迹）和 **WebShop**（160条）。他们使用同一个冻结的 7B 模型同时作为智能体和评判者。结果显示，RubricForge 的主要优势在于**忠实度（faithfulness）**而非原始一致性。 - 在总体一致性上，RubricForge 与通用的 G-Eval 评判者相比并无显著差异（McNemar p=0.248），在绝对分数校准上甚至略逊一筹（|err| 差异 -0.048, p=2×10⁻⁴）。 - 然而，在**假阳性率（false-pass rate）**上，RubricForge 表现显著更好：在 tau-bench 上，它将失败轨迹误判为成功的比例仅为 **0.115**，而 G-Eval 为 **0.173**，几乎减少了一半。此外，RubricForge 还成功捕获了三个 G-Eval 未发现的过度信任案例，并且没有发生反向误判。 - 在 WebShop 上，RubricForge 对结果的排序更忠实（Spearman 0.410 vs. 0.370）。 ## 为什么假阳性率如此重要？ 对于无奖励评判者来说，**假阳性率**是部署时最关键的指标：一个假阳性意味着一个损坏的智能体被放行，而假阴性只是导致一次重试，成本相对较低。因此，RubricForge 虽然在整体一致性上并未超越基线，但在最需要避免的错误类型上显著更优，这使其在实际部署中更具价值。 ## 总结与展望 RubricForge 提供了一种全新的思路：通过生成可读的评判标准，在保证可解释性的同时，有效降低过度信任风险。尽管其在绝对分数校准上略有不足，但假阳性率的显著下降表明，这种方法在奖励信号稀缺的场景下具有实用价值。未来的工作可能会进一步优化评分校准，并探索在不同模型规模上的适用性。这项研究为智能体评估领域提供了一种更有原则的替代方案，值得关注。
人类大脑在功能上高度特化，不同脑区分别负责语言、形式推理、社会认知和物理世界推理。这种模块化组织究竟是智能系统的普遍原则，还是生物大脑演化中的偶然？一项发表于 arXiv 的新研究对大型语言模型（LLM）展开了系统测试，发现 LLM 在内部也发展出了类似大脑的模块化架构：同一认知域的任务会激活重叠的神经元，不同认知域则使用不同的神经元。研究者认为，这种趋同演化暗示模块化可能是智能系统的普适特性。 ## 研究设计与核心发现 来自 MIT 等机构的研究人员（包括 Pengrui Han、Jacob Andreas、Evelina Fedorenko 等）对 **46 项任务** 进行了电路分析，覆盖语言、形式推理、社会推理和物理推理四大认知域。他们追踪了 LLM 在处理这些任务时内部神经元的激活模式，结果发现： - 当两个任务在人类大脑中依赖同一网络时，LLM 中激活的神经元也高度重叠； - 当任务涉及不同认知网络时，LLM 中使用的神经元则彼此分离。 这表明，尽管 LLM 的训练目标只是预测下一个 token，但其内部自发涌现了与人类认知架构相似的模块化组织。 ## 为何模块化会涌现？ 研究团队指出，模块化可能并非偶然，而是智能系统在解决多样化任务时的一种高效策略。类似的观点在神经科学和人工智能领域早有讨论，但此前缺乏直接证据。该研究通过跨物种、跨系统的对比，首次在神经网络中观察到与脑功能分区高度对应的结构。 作者在论文中写道：“大脑和神经网络中模块性的趋同涌现表明，它可能是智能系统的基本属性。”这一结论对理解通用人工智能（AGI）的架构设计具有启发意义：也许未来的 AI 系统无需人为预设模块，只需足够复杂的训练，就能自发形成类似大脑的功能分区。 ## 局限与展望 需要注意的是，该研究目前以预印本形式发布，尚未经过同行评审。虽然样本任务数量可观（46 项），但主要基于特定模型架构，是否适用于所有 LLM 仍待验证。此外，神经元重叠的生物学意义尚需进一步解释。 尽管如此，这一发现为“智能的共性原理”提供了新视角，也引发了关于 LLM 可解释性的讨论：如果我们能定位这些功能模块，或许能更精准地调控模型行为，甚至修复偏见或错误。 未来，研究团队计划扩展任务范围，并探索模块化程度与模型性能、泛化能力之间的关系。这项研究不仅架起了神经科学与 AI 之间的桥梁，也让我们离理解智能的本质更近一步。
**AI评估的范式之争：从超级智能到人机协同** 长期以来，AI领域的评估体系以“超级智能自主表现”为核心，隐含的目标是让机器取代人类。然而，一篇被ICML 2026 Position Paper Track接收的论文《AI Evaluation Should Work With Humans》提出了尖锐的质疑：这种主导范式正在将AI发展引向错误方向。作者Jan Kulveit、Gavin Leech、Tomáš Gavenčiak和Raymond Douglas主张，AI社区应转向评估**人机团队**的整体表现，而非孤立地追求AI的自主能力。 **为何要“以人为本”评估？** 论文指出，当前的评估标准——如基准测试中的高分、游戏中的超越人类表现——本质上鼓励开发“替代人类”的系统。这种导向催生了大量自动化工具，却忽视了人类与AI协作的潜力。实际上，在医疗诊断、科学研究、复杂决策等场景中，人类与AI的互补往往能产生更优结果。例如，AI可快速处理海量数据，而人类提供直觉、伦理判断和情境理解。若评估仅关注AI单打独斗的能力，便会错失这种协同效应。 **转向协作评估的实践路径** 作者建议，未来的评估应设计为**人机团队任务**，衡量整体产出而非个体表现。这需要开发新的方法论，包括： - 设计需要人类介入的任务，如AI生成初步方案后由人类修正； - 评估团队协作的流畅度、信任度和互补性； - 引入动态场景，模拟真实世界中人与AI的交互。 这种转变不仅改变测试方式，更会重塑AI研发目标，推动系统设计更注重可解释性、可控性和适应性，而非盲目追求自动化。 **行业影响与未来展望** 若这一观点被广泛采纳，AI开发将更注重增强人类能力，而非替代。这可能带来更积极的社会影响，如减少失业焦虑、提升工作满意度，并确保AI技术符合人类价值观。当然，这一转变面临挑战：如何量化人机协作的成效？如何避免评估的主观性？但无论如何，这篇论文为AI评估提供了宝贵的新视角，值得从业者深思。
大语言模型（LLM）在高置信度下给出错误答案，通常被视为模型内部推理脆弱的信号。然而，一篇新论文提出了另一种可能性：**稳定误校准**——模型自信地犯错，且这种错误在微小扰动下保持稳定。该研究发表于 arXiv（编号 2608.13591），已被 ICML 2026 的 EIML 研讨会接收。 研究者设计了一套双管齐下的诊断方法：一是**标签感知的输出级审计分数**，用于按领域排序置信度变化和强迫回答基线下的过度自信错误；二是**内部敏感性探针**，测量隐藏层的移动。在多领域二元事实审计集上，审计分数能够追踪到“基于放弃的自我批判”减少决策损失的位置，尽管直接标注基线对相同增益的排序更强。 在内部层面，自我批判提示在三个开放权重模型中一致地降低了各层的隐藏状态敏感性。这支持了**提示诱导的局部稳定化**，而非纯粹的输出级放弃模式。但研究也明确指出，这并不等同于校准：审计定义的过度自信错误并不比自信正确的答案更局部敏感，因此某些高置信度错误可能是**稳定的误校准**，而非简单脆弱。 这一发现对 AI 安全与可靠性有重要启示。若高置信度错误并非源于推理脆弱，而是稳定存在，那么依赖置信度分数进行风险控制的方法可能失效。该研究提示，需要更精细的校准策略，而非仅依赖内部不确定性信号。 尽管该研究基于特定架构与数据集，其结论为理解 LLM 错误本质提供了新视角，也为未来的校准研究指明了方向。
随着大语言模型（LLM）智能体从纯粹的对话系统演变为能够调用工具、修改本地状态、使用持久内存并与外部协议交互的执行系统，其能力边界不断扩展，但随之而来的安全与治理挑战也日益凸显。过度权限、审计缺失、提示注入、工具投毒以及失控的副作用等问题，成为制约智能体规模化落地的关键障碍。在此背景下，一项名为 **Agentao** 的新研究提出了一种受治理的本地优先运行时架构，旨在为智能体的执行过程提供显式的治理、可检查性和宿主控制能力。 ## 核心思路：分离提议与执行 Agentao 的核心设计理念是**将模型生成的行动提案与宿主授权的实际执行相分离**。这种“提议-执行”分离模式，类似于操作系统中用户态与内核态的划分，为智能体行为引入了关键的审查与授权环节。具体而言，Agentao 采用分层架构，包括宿主面对接口、宿主契约、运行时核心、权限中介工具系统，以及支持内存、重放、插件、技能、子智能体和协议集成的子系统。 这一架构使得权限、状态、协议边界和执行轨迹成为显式的运行时抽象。例如，工具调用必须通过权限中介的校验，宿主可以精确控制智能体能执行哪些操作、访问哪些资源。同时，所有执行过程都会被记录，形成结构化的执行轨迹，便于事后审计与回放。 ## 威胁模型与治理机制 论文明确阐述了其威胁模型，涵盖了**过度特权行为、弱审计性、提示注入、工具投毒和不受控制的副作用**等典型风险。Agentao 的设计目标并非提供形式化的安全保证，而是通过工程手段让这些风险变得可控。其治理模型强调宿主控制，即智能体运行环境的所有者（宿主）拥有最终决定权，可以审批或拒绝智能体的行动提案。 这一机制类似于安全领域的“最小权限原则”，但将其应用到了智能体执行层面。通过显式的权限声明和宿主契约，Agentao 试图在智能体的自主性与宿主的控制力之间取得平衡。 ## 实践意义与未来展望 值得注意的是，Agentao 目前并未附带实验数据，作者表示正在进行测试和分析，并将在未来版本中提供实验结果和示例。尽管如此，该框架的提出本身具有重要的实践意义。它为构建“更可治理、更可检查、更适合宿主控制的本地环境”的智能体提供了一条清晰的路径。 对于开发者而言，Agentao 的代码已在 GitHub 上公开，可以直接用于搭建受控的智能体执行环境。对于企业用户，这类运行时有助于满足合规审计要求，降低智能体误操作带来的风险。 总之，Agentao 反映了 AI 智能体领域从“追求能力”向“关注治理”转变的趋势。在智能体日益自主的未来，如何确保其行为符合人类意图和安全规范，将成为决定技术能否落地的关键因素。Agentao 的探索为此提供了有价值的参考。
现代运营系统即使在常规条件下也面临不确定性，其中罕见、突发且自激的事件既源于外生协变量，也源于内生事件动力学。标准的神经算子通常被训练为回归式的函数到函数模型，而非条件强度估计器，这限制了它们在稀疏事件场景中的适用性。为此，我们引入了洛伦兹傅里叶神经算子（L-FNO），这是一种随机神经算子，它结合了FNO风格的协变量路径、用于历史依赖激发的洛伦兹谱核以及基于似然的训练目标。我们在八个合成点过程基准和三个真实世界数据集（涵盖疾病暴发预测和半导体故障或缺陷检测）上评估了L-FNO。与回归和基于似然的神经算子基线相比，L-FNO在事件似然、校准诊断和罕见事件检测方面均有提升。这些结果表明，结构化的谱记忆和基于似然的学习为随机事件动力学的神经算子模型提供了有效的归纳偏置。 ## 背景与挑战 在金融、医疗、制造等许多领域，系统面临的核心挑战之一是如何准确预测罕见但关键的事件，例如疾病暴发或半导体制造中的故障。这些事件往往表现出突发性和自激性，即一个事件的发生可能增加后续事件发生的概率。传统的神经算子模型通常以回归方式训练，直接学习输入到输出的映射，忽略了事件时间序列的随机性质，导致在稀疏事件场景下性能不佳。 ## L-FNO的核心设计 L-FNO的设计旨在克服上述局限。它结合了三个关键要素： - **FNO风格的协变量路径**：利用傅里叶神经算子高效处理函数型协变量，捕捉输入与事件之间的复杂关系。 - **洛伦兹谱核**：借鉴洛伦兹函数（即柯西分布）的谱形式，用于建模历史事件的激发效应。这种核函数能够有效捕捉事件的自激和互激特性，尤其适合描述突发和衰减过程。 - **基于似然的训练目标**：通过最大化事件序列的似然函数来训练模型，使其直接优化条件强度估计，而非简单的回归误差。 这种设计使得L-FNO能够更好地处理事件数据的随机性，并提高对罕见事件的预测能力。 ## 实验与性能 研究团队在八个合成点过程基准和三个真实数据集上进行了广泛实验。结果显示，L-FNO在事件似然、校准诊断和罕见事件检测方面均优于现有的回归和基于似然的神经算子基线。这表明，结构化的谱记忆和似然学习为神经算子模型提供了有效的归纳偏置，使其更适合于随机事件动力学建模。 ## 意义与展望 L-FNO的提出为神经算子家族增添了新的工具，特别是在处理随机事件序列时。其成功表明，将领域知识（如自激过程的谱特性）融入模型架构，并结合适当的训练目标，可以显著提升模型的实用价值。未来，该模型有望在更多需要实时预测和风险管理的领域中得到应用，例如金融风险管理、流行病学监控和工业质量控制等。 尽管L-FNO表现出色，但仍有改进空间。例如，如何扩展到更高维的事件类型、如何处理非平稳的协变量，以及如何进一步提高计算效率，都是值得探索的方向。
高能物理对撞机实验中，寻找超出标准模型的新物理信号是核心目标之一。然而，传统的事件级异常检测方法长期面临两大痛点：异常分数难以解释，以及异常分数与能量尺度、粒子多重性等变量强相关，导致误报率偏高。近期，一篇发表在arXiv上的论文提出了名为**ORCA**（Organized Representation via Contrastive learning for Anomaly detection）的两阶段框架，旨在解决上述问题，为对撞机物理中的异常检测提供更可靠且可解释的工具。 ORCA的核心思路是：首先，利用**监督对比学习**在涵盖多种已知物理过程的模拟数据上训练一个嵌入空间，使得不同物理过程在该空间中被清晰地分离；随后，在该嵌入空间上运行一个标准自编码器，生成事件级的异常分数。这种设计不仅提升了异常检测的灵敏度，更重要的是，嵌入空间的几何结构携带了高维的物理信息，使得异常样本的**可解释性**成为可能。 在模拟数据上（与高亮度大型强子对撞机（HL-LHC）条件一致），ORCA相比基线自编码器架构，在**灵敏度的广度和深度**上均取得了显著提升。更值得关注的是，研究团队开发了一种基于最大似然估计的模板拟合方法，能够将异常样本中的事件归因到已知的物理过程模板，并给出量化的不确定性。实验表明，该拟合方法能准确恢复注入的信号产额，即使这些信号在训练嵌入时未被包含；对于模板库中缺失的信号，也能通过其最相似的已知过程进行特征描述。 这一成果为对撞机实验中的异常检测搜索开辟了新的路径。传统方法通常输出一维的分数，而ORCA利用嵌入空间的几何结构，保留了更丰富的物理信息，有助于下游的统计分析。尽管该研究仍处于模拟验证阶段，但其提出的可解释异常检测框架，对于未来高能物理实验的数据分析具有重要的潜在应用价值。 值得注意的是，论文作者来自上海交通大学、印度科学研究院等机构，研究聚焦于机器学习与高能物理的交叉领域。随着HL-LHC等高精度实验的推进，这种结合对比学习与自编码器的方法，或将成为物理学家探索新物理的有力助手。
在 AI 领域，**SWE-bench** 和 **LiveCodeBench** 等编码基准已成为衡量大模型编程能力的重要标尺。然而，一项最新研究指出，过度依赖这些基准进行优化，可能会误导我们对模型通用编码能力的判断。该研究已收录于 **ICLR 2026** 的 DL4Code 研讨会，并提出了更全面的评估框架。 ## 基准分数的“意义鸿沟” 研究团队认为，当前许多论文、模型卡和博客将模型在少数基准上的高分，直接等同于其具备广泛的编码能力。但实际上，**针对特定基准的优化往往只能提升任务特定性能**，而非通用能力。这种“意义鸿沟”导致开发者难以依据现有指标做出可靠的决策。 ## 案例研究：Django 基准套件 为了验证这一观点，研究者构建了一个基于 **Django 框架**的基准套件，并评估了多个基础模型及经过 SWE-bench 轨迹后训练的检查点。结果显示： - **基准排名普遍无法泛化**：在 SWE-bench 上表现优异的模型，在 Django 任务上并未展现同等优势。 - **跨任务迁移有限**：后训练模型在不同任务间的能力迁移微乎其微，SWE-bench 优化对 Django 任务及 LiveCodeBench 的增益几乎为零。 - **模态微调不通用**：针对 Django 单个模态的微调，同样无法迁移到其他模态。 ## 评估策略建议 面对这一挑战，研究者提出分层评估策略： - **前沿模型**：采用整体性评估，全面考察各项能力。 - **研究模型**：使用多任务套件，覆盖更广泛的应用场景。 - **特定任务应用**：引入人工评估，确保实际场景中的有效性。 此外，他们呼吁社区**构建能力分类体系**，并持续维护基准，而非一次性发布。唯有如此，才能为 LLM 和智能体的开发与部署提供可靠依据。 ## 结语 这项研究提醒我们，**基准分数的提升并不等于通用能力的增强**。在 AI 技术快速迭代的今天，多样化的评估体系是确保技术健康发展的基石。
线性注意力模型因其固定大小的状态表示，在长上下文场景下面临着信息干扰的挑战。近日，Dhruman Gupta等人提出了一种名为QED的新方法，通过引入查询衍生的擦除方向，显著提升了模型的检索能力，甚至将有效上下文长度翻倍。 ## 背景：线性注意力的困境 传统的Softmax注意力机制虽然效果出众，但其计算复杂度随序列长度呈二次方增长，难以应对超长上下文。线性注意力通过固定大小的状态来近似全局信息，将复杂度降至线性。然而，这种压缩也带来了问题：当上下文极长时，大量信息被挤压在有限的状态中，相互干扰，导致检索准确率急剧下降。 ## QED：从查询中寻找擦除方向 现有方法（如Gated DeltaNet-2）在进行状态更新时，擦除向量仅由当前token的键（key）决定。但研究者发现，读取时干扰的度量依赖于查询（query），而键导向的擦除无法触及查询方向上的干扰。QED的灵感正是来源于此：既然查询能感知干扰，那么它也应该指导擦除。 QED在原有键导向擦除的基础上，增加了一个与键正交的、由查询衍生的第二擦除方向。在快速权重视角下，这种设计使得模型能够利用可编辑的部分，沿查询方向抵消旧状态中的干扰内容，从而更精准地更新记忆。 ## 性能提升：不止一点 实验表明，QED在多种长度超出训练窗口的测试中均提升了检索性能，尤其在S-NIAH-1任务上，有效上下文长度几乎翻倍。这意味着，在不改变模型架构的前提下，仅通过修改擦除机制，就能显著扩展线性注意力的可用范围。 ## 未来展望 QED为线性注意力模型的优化提供了新思路：擦除不应仅依赖键，查询中的信息同样重要。这一发现或许能启发更多关于注意力机制内部信息流的研究，推动高效长上下文模型的进一步发展。
OpenAI 宣布资助 14 个由独立组织领导的 AI 政策研究项目，旨在促进经济机会和社会韧性。这些项目是对其 2026 年 4 月发布的《智能时代产业政策》的延续，鼓励外部机构测试、挑战和扩展其提出的理念。随着 AI 能力快速提升，ChatGPT 已拥有 10 亿用户，但广泛使用只是第一步，政策制定同样关键。OpenAI 将提供总计 100 万美元资金和 100 万美元 API 额度，项目覆盖美国、欧盟、巴西、新加坡和韩国等地，聚焦经济机会、社会韧性等议题。此举旨在推动民主社会中的公共辩论，确保 AI 惠及多数人。
Hacker News 热门 · 823 分 · 730 评论
Hacker News 热门 · 157 分 · 188 评论
According to the Financial Times, OpenAI disbanded its preparedness team at the end of last month. The job of the preparedness team was to assess if models posed serious risks and develop ways to mitigate those risks. (You know, like the possibility that it could go rogue and hack another company.) According to FT, responsibility […]