SheepNav

AI 资讯

每日聚合最新人工智能动态

来源:Anthropic清除筛选 ×

## 核心结论 在安全关键环境中,传统强化学习(RL)常因缺乏明确奖励函数而难以应用。最新研究提出 **DROPJ**(Dynamic Reward from Online Preferences and Justifications)方法,通过**世界模型**结合人类偏好与解释,实现智能体的安全训练与部署。实验表明,该方法不仅降低了计算成本,还能显著提升部署性能与安全性。 ## 方法解读 DROPJ 的核心流程分为三步: 1. **学习世界模型**:从真实环境轨迹数据中训练一个模拟器,用于后续人类交互与策略优化。 2. **人类反馈采集**:让用户在模拟器中“玩游戏”,生成若干信息丰富的模拟轨迹。然后从这些轨迹中抽取片段对,要求人类提供**偏好选择**(哪个更安全/更优)以及**解释**(为什么这样选)。 3. **奖励建模与部署**:基于带解释的偏好数据训练奖励模型,并结合世界模型使用**模型预测控制(MPC)**直接部署智能体,无需额外在线训练。 ## 关键发现 - **计算效率**:从用户生成的模拟轨迹中采样,相比其他策略(如随机探索)可大幅降低训练时的计算成本。 - **性能优势**:使用偏好反馈(而非数值评分或演示)能显著提升部署时的任务性能。 - **安全性增强**:偏好附带的**安全解释**可有效引导智能体遵循用户指定的安全规则,例如“避免靠近悬崖”或“优先减速而非急刹”。 ## 行业背景与意义 当前 RL 在自动驾驶、医疗机器人等安全领域面临两大挑战:一是环境动力学未知,二是难以形式化安全约束。DROPJ 提供了一条**人机协同**的路径——让人类以自然语言解释偏好,既降低了标注成本,又保留了安全先验知识。这与近年来 RLHF(基于人类反馈的强化学习)的趋势一致,但 DROPJ 更强调**世界模型**作为中间层,使训练过程更可控且可解释。 ## 局限与展望 论文指出,方法依赖人类在模拟器中生成高质量轨迹,且解释的语义理解尚需改进。未来可探索多模态反馈(如视觉注意力)或自动化解释生成,以扩大应用范围。

Anthropic今天原文

## 背景:长周期 AI 智能体的记忆难题 随着 AI 智能体从单轮对话向多轮、跨会话的长周期任务演进,**记忆** 已成为系统架构中的关键瓶颈。传统的文档检索难以满足需求——智能体需要记住对话状态、用户偏好、操作流程,并在延迟约束下准确召回。 ## Oracle Agent Memory:数据库原生的记忆基板 7月14日,Oracle 联合多位研究者发布技术报告 arXiv:2607.13157,详细介绍了 **Oracle Agent Memory**——一个构建在 Oracle 数据库之上的原生记忆层。该方案将记忆视为一个完整的生命周期,涵盖**摄取、提取、整合、检索、摘要、修订与删除**六大环节。 ## 架构亮点:分层设计与范围控制 报告提出了**分层架构**:一个活跃的“记忆核心”负责实时交互,一个被动的“记忆存储接口”负责持久化。关键创新在于**显式范围控制**——记忆可按用户、智能体、线程等粒度隔离,避免不同会话间的信息污染。这种设计既保证了隐私合规,又提升了检索效率。 ## 性能数据:准确率与效率的双重提升 在 **LongMemEval** 基准测试中,Oracle Agent Memory 达到了 **93.8%** 的准确率。相比扁平历史基线,它仅使用约 **10.7 倍更少的 Token** 就实现了同等或更好的召回效果。报告还提供了与外部基线的对比,并公开了完整的评估方法,包括证据检索、召回率、延迟和预估 Token 用量等指标。 ## 行业意义:从“对话”到“协作”的跨越 当前,主流的 AI 智能体(如 ChatGPT、Claude)主要依赖上下文窗口,窗口之外的信息几乎“丢失”。Oracle 的方案将记忆固化到数据库中,使智能体能够跨会话积累知识——例如,一个客户支持智能体可以记住用户的购买历史与投诉记录,即使对话间隔数天。 ## 落地实践:附录提供详细指南 报告最后附有 **23 页的附录**,覆盖了设置、线程生命周期和搜索语义等实现细节。这对于希望在企业级应用中部署长周期智能体的团队来说,是一份极具参考价值的“操作手册”。 ## 小结 Oracle Agent Memory 并非简单的“记忆插件”,而是一套**数据库原生、全生命周期管理、可审计**的记忆基础设施。它解决了当前 AI 智能体在长期任务中的核心痛点,也为企业级 AI 应用提供了更可靠的记忆基板。随着长周期智能体的需求爆发,这类系统级方案或将成为下一代 AI 架构的标准配置。

Anthropic今天原文

小语言模型(SLM)在从SMILES字符串预测分子性质时,常因序列表示无法捕捉图拓扑结构而表现欠佳。一项新研究提出**上下文增强提示(Context-Augmented Prompting)**框架,让SLM在推理时动态调用图神经网络(GNN)工具——GNN专家模型提供预测提示及其置信度,另一GNN提取解释性子图(如子图SMILES与解释文本)。在MUTAG和Tox21数据集上,五种提示配置的对比实验显示:引入图上下文后,SLM准确率显著提升,相对改进超过25%,Tox21上最高达74%。研究还通过边丢弃干预验证了提取基序的功能相关性。不过,SLM与专用GNN模型之间仍存在差距,凸显了文本推理在分子结构理解中的潜力与局限。该成果已在ESWC2026因果神经符号AI研讨会上发表。

Anthropic今天原文

## 核心发现:自主智能体的自我进化走向系统化 一篇由Jürgen Schmidhuber等12位学者联合撰写的综述论文 **《Self-Improvements in Modern Agentic Systems: A Survey》** 于7月14日提交至arXiv,系统梳理了自主智能体通过自我改进实现能力跃升的现状与未来。该研究指出,**自我改进的自主智能体正从研究原型走向实际部署**,其核心目标是在最少甚至无需人类干预的情况下,实现可控的进化与经验驱动的自适应。 ## 系统级框架:将智能体拆解为“模型+脚手架” 论文提出一个统一的系统级框架,将现代智能体视为 **“基础模型 + 操作脚手架”** 的耦合配置。其中,脚手架包括提示(prompts)、记忆(memory)、工具(tools)和控制逻辑(control logic)。自我改进则被形式化为一个**自我诱导的更新算子**:该算子通过获取并提交更新,作用于模型参数或脚手架组件,从而将经验转化为可累积的能力增益。 这一框架的巧妙之处在于,它将看似杂乱无章的智能体改进方法(如强化学习、提示优化、工具扩展等)纳入同一套理论体系,使得不同技术路线之间的比较和迁移成为可能。 ## 研究组织:按更新目标与驱动信号分类 作者按照两个维度对现有工作进行梳理: - **更新目标**:是修改模型参数(如微调、权重更新),还是调整脚手架组件(如改进提示、扩展工具集、优化记忆结构)。 - **驱动信号**:是什么促使更新发生?例如,来自环境反馈的奖励信号、自我生成的反思信号、或是人类提供的少量示例。 通过这一分类法,论文系统回顾了**强化学习、自我博弈、反思式提示工程、动态工具组装**等主流方法,并分析了各自的适用场景与局限性。 ## 应用场景与评估挑战 综述覆盖了**代码生成、机器人控制、游戏、对话系统、科学研究**等多个领域的应用案例。例如,在代码生成中,智能体可通过执行测试结果自我修正生成代码;在机器人领域,智能体可从失败动作中学习调整控制策略。 然而,评估自我改进系统面临独特挑战:**如何衡量“改进”本身**?是看最终任务性能,还是看改进速度、样本效率,或是泛化能力?论文指出当前缺乏统一评估基准,这也是未来关键研究方向之一。 ## 开放问题与未来方向 论文在结尾列出了多项开放问题: - **稳定性与可控性**:如何确保自我改进不会导致能力退化或目标偏离? - **可扩展性**:随着智能体规模增长,自我改进的计算成本如何控制? - **理论理解**:自我改进的收敛性、最优性边界是什么? - **安全与对齐**:如何防止智能体通过“钻空子”获得虚假改进? 作者团队还维护了一个项目页面和GitHub仓库,持续跟踪该领域的最新进展。 ## 小结 这篇97页的综述为快速发展的自主智能体自我改进领域提供了首个系统级理论框架。它不仅厘清了概念、整理了现有技术路线,更指出了从“能改进”到“可控、高效、安全地改进”之间亟待跨越的鸿沟。对于关注AI Agent前沿的从业者与研究者而言,这是一份不可多得的参考地图。

Anthropic今天原文

神经符号人工智能(Neuro-symbolic AI)旨在融合神经网络的感知学习能力与符号系统的逻辑推理优势。近日,一篇发表于arXiv的论文(编号2607.13073)提出了一种基于Belnap类型内涵一阶逻辑(IFOL_B)的概率扩展方案,旨在增强通用人工智能(AGI)机器人的认知能力,使其能够处理不确定性并做出实时决策。 ### 核心思路:概率 + 逻辑 + 神经网络 传统纯神经网络系统在可解释性和逻辑结构方面存在局限,而符号系统则难以处理模糊和概率性信息。该研究在IFOL_B框架基础上,引入了Nilsson概率结构,使系统能够对当前未知的语句进行概率计算。这意味着AGI机器人不仅可以基于已有知识进行确定性推理,还能对不确定信息给出概率估计,从而在复杂环境中更灵活地行动。 ### 对称变换与智能决策 论文提出了两种对称变换机制: - **全局对称变换**:保持当前知识库和逻辑演绎的一致性,确保整体推理的可靠性。 - **局部对称变换**:用于处理具体(子)问题的实时决策,仅涉及IFOL_B谓词的一个严格子集,从而降低计算复杂度,满足实时性要求。 这两种变换分别对应系统在不同层面的智能行为:全局维护知识体系的稳定性,局部实现快速响应。 ### 概率密度函数与神经网络 在两种变换中,系统需要计算概率密度函数KI。论文采用香农最大信息熵原理,并通过神经网络来近似计算该函数。这实际上将概率推理与神经网络的学习能力结合,使AGI能够从数据中自动调整概率分布,无需人工预设所有规则。 ### 意义与展望 这项研究为神经符号AGI的发展提供了一个新方向:通过形式逻辑与概率计算的深度融合,让机器人不仅“懂规则”,还能“估概率”。未来,这类系统有望应用于需要同时处理逻辑约束和不确定性的场景,如自动驾驶、医疗诊断和自主对话系统。不过,论文目前仍处于理论阶段,32页的篇幅详细阐述了数学框架,但尚未给出大规模实验验证。实际效果如何,仍需后续研究检验。 总之,该工作展示了如何用数学工具弥合神经网络与符号推理之间的鸿沟,为构建更智能、更可靠的AGI机器人铺平了道路。

Anthropic今天原文

大型语言模型(LLM)生成的思维链(CoT)推理看似逻辑严密,但可能并未真正依赖其陈述的前提。一项新研究提出了**干预式接地审计(Interventional Grounding Audits)**,这是一种黑盒、步骤级的前提依赖测试方法:通过将单个前提中的目标谓词替换为一个新符号,重新运行模型,并检查每个推理步骤的规范化结论(规范谓词形式)是否发生变化。 研究在 ProntoQA 基准上进行了评估,这是一个合成多跳演绎推理数据集,包含黄金证明树,其中步骤级前提依赖已知。应用于 50 个 ProntoQA 问题(使用 GPT-4o),该方法在检测证明树依赖时达到了 **F1=0.806**(谓词决定依赖的 F1=0.885,召回率=100%),显著优于自一致性基线(F1=0.343;95% 自助法置信区间无重叠)。 进一步分析发现,**66% 的正确解答问题**至少包含一个对齐步骤,该步骤在一致替换下对直接证明树依赖不敏感——所有这些都涉及实体引入前提,这是一致替换评估器的一个已知盲点。这种“答案正确但推理错误”的信号是被动方法无法发现的。 所有审计证书、原始输出和复现脚本均已公开在 GitHub 仓库中。论文同时讨论了该方法超出形式化、可解析基准的范围限制。该研究已被 **ICLR 2026 大语言模型逻辑推理研讨会**接收。

Anthropic今天原文

arXiv:2607.13049v1 Announce Type: new Abstract: Foundation models have given robots a sophisticated brain for complex decision-making, yet deploying that intelligence into a physical platform still demands tedious, expert-driven calibration. This deployment gap, the robot's spinal cord, remains a primary bottleneck to scalable Embodied AI. Hence, we propose SPINE (Scalable Physical Integration with ageNtic Expertise): an agentic framework for systematically debugging and deploying bimanual robot

Anthropic今天原文

AI模型训练依赖海量数据,但当数据贡献者要求删除其数据时,模型训练者往往陷入困境:现有的遗忘算法需要一个“遗忘集”,却没有工具能精确定位哪些训练记录属于特定作者。现有的溯源系统仅停留在文件或数据集级别,导致过度删除。 **OriginBlame(简称ob)** 是一种记录级与Token级数据溯源系统,能够在数据处理管道中传播作者身份,并通过确定性查询将撤销请求解析为精确的遗忘集。在 **219,555个维基百科页面** 上的评估显示,记录级溯源将数据集级过度删除率从 **101倍降至1.3倍**,而集成到HuggingFace和Datatrove管道中仅带来 **1.3%-4.0%** 和 **2.1%-19.0%** 的吞吐量开销。在 **17亿参数模型** 上,基于溯源的遗忘集相比随机基线 **提升了42%的遗忘效果**。 该系统填补了数据溯源与机器遗忘之间的空白。随着全球数据隐私法规(如GDPR“被遗忘权”)日益严格,OriginBlame为模型训练者提供了一种精确、高效的数据移除方案,避免因过度删除损害模型性能。 ### 核心优势 - **精确性**:从文件级粗粒度升级到记录级和Token级,大幅减少误删。 - **效率**:集成开销低,对主流框架影响可控。 - **实用性**:直接服务于遗忘算法,显著提升遗忘质量。 ### 行业意义 OriginBlame的出现标志着AI数据治理从“一刀切”迈向“精准手术”。未来,类似系统可能成为合规训练的标准组件,尤其适用于处理用户贡献内容的平台。不过,论文目前仅在维基百科数据上验证,真实场景的复杂管道(如多源数据混合、衍生数据)仍需进一步测试。

Anthropic今天原文

随着AI智能体(如GPT-4.1、Gemini-2.5 Flash等)逐渐成为用户在线购物、信息检索的“代理人”,传统网站设计正面临根本性挑战——如何让机器像人类一样顺畅地读取、理解并操作网页内容?一篇来自arXiv的新论文提出了**“Agent-Ready网站”**设计框架,旨在通过提升机器的可读性、可操作性和决策可靠性,让电商平台更好地服务于AI智能体。 ## 从SEO到GEO,再到“智能体友好” 过去二十年,网站优化主要围绕人类用户和搜索引擎展开:SEO(搜索引擎优化)让页面更易被爬虫索引,GEO(生成引擎优化)则针对AI摘要生成调整内容。然而,这些标准并未涵盖AI智能体自主执行任务的场景——比如智能体需要从多个页面提取产品详情、比较价格、检查库存,甚至完成下单。论文指出,现有优化手段无法全面评估网站对智能体交互的“胜任力”。 ## 三维度框架:可解释、可执行、可决策 论文提出的框架围绕三个核心维度展开: - **Agent可解释性(Interpretability)**:确保页面结构、语义标签能被智能体清晰解析,例如使用Schema.org标记、明确的HTML元素层级,避免模糊的CSS类名或动态加载内容。 - **Agent可执行性(Executability)**:提供可操作的动作线索(如清晰的“加入购物车”按钮、可点击的链接),并减少需要复杂推理才能完成的交互(如多步表单)。 - **Agent决策可靠性(Decision Reliability)**:嵌入上下文信号,如库存状态的时间戳、价格有效期、用户评价的时效性,帮助智能体判断信息的真实性和新鲜度。 ## 实验对比:成功率翻倍,步骤减少30% 研究团队构建了一个原型电商网站,分别设计“人类友好”基线版本和“Agent-Ready”版本(后者在代码中嵌入结构化数据、明确的操作提示、时间戳验证等信息)。他们使用三种主流浏览器智能体(GPT-4.1、Gemini-2.5 Flash、Grok-4 Fast)执行五项典型购物任务(如查找产品、比较规格、按多条件筛选),共进行300次运行。 结果令人瞩目: - **严格成功率**:Agent-Ready版本达**89.3%**(134/150),而基线版本仅**49.3%**(74/150)。 - **部分成功(PARTIAL)**:从43次锐减至3次,意味着智能体几乎不再“卡在半路”。 - **平均步骤数**:从9.31步降至**6.49步**,效率提升约30%。 - **错误模式**:基线版本频繁出现元素定位失败、信息误解、动作超时等问题,而Agent-Ready版本通过明确的语义标签和动作提示大幅减少了这些错误。 ## 实践意义:不只是电商 尽管实验聚焦电商,但框架的普适性显而易见。无论是旅游预订、金融服务还是企业级SaaS,只要涉及AI智能体自主操作,设计者都需要考虑:**你的网站是否“读得懂、点得准、信得过”?** 论文建议,开发者可以立即着手几项低成本改进: - 使用**结构化数据标记**(如JSON-LD)标注产品、价格、库存等关键信息。 - 为交互元素添加**明确的aria-label或data-action属性**,避免依赖视觉位置。 - 在页面中嵌入**时间戳和置信度信号**(如“库存更新于5分钟前”),帮助智能体判断信息有效性。 ## 未来展望:智能体时代的“无障碍设计” 正如WCAG(网页内容无障碍指南)为残障用户扫清障碍,Agent-Ready框架有望成为智能体时代的“无障碍标准”。随着AI智能体渗透率提升,那些率先优化网站结构的企业,或将赢得“机器流量”的先发优势。论文作者也指出,当前研究尚处早期阶段,未来需探索动态内容、登录后页面、多模态交互等更复杂场景。 无论如何,一个信号已经清晰:**当AI开始“浏览”网页,网站设计的下一个分水岭已经到来。**

Anthropic昨天原文

强化学习(RL)在智能温室气候控制中展现出巨大潜力,能够以远超传统作物实验的速度和规模测试新策略。然而,仅依赖单一的模拟器奖励值远远不够——种植者或控制工程师还需要知道策略何时执行加热、增施CO₂、通风、调节湿度、启用遮阳幕或使用补光灯等具体操作。为此,来自中国的研究团队提出了一种**可复现的校准优先奖励审计框架**,旨在让温室控制中不同奖励组件在多个场景下保持可比性。 该框架基于**GreenLight-Gym**模拟环境,将标量奖励分解为**温度、CO₂、湿度、蒸气压亏缺(VPD)、遮阳幕以及执行代理**等条件化组件。通过将GreenLight模拟器适配至第二届自主温室挑战赛(Autonomous Greenhouse Challenge)的实际气候轨迹,并在真实温室日志数据上对相同组件进行评分,框架实现了从仿真训练到设施部署、从竞赛记录到规则蒸馏的全链路一致性评估。 ## 为何需要奖励审计? 在温室RL控制中,奖励函数通常由多个子目标加权求和构成,例如维持适宜温度、控制湿度、节约能源等。但不同子目标的量纲和分布差异巨大,直接求和可能导致策略偏向某个单一目标(如过度追求节能而牺牲作物生长)。此外,仿真环境与真实温室之间存在**模拟偏差**,使得在仿真中表现良好的策略在实际部署时可能失效。 该框架的核心创新在于**校准优先**:首先通过GreenLight模拟器对奖励组件进行校准,确保各组件在不同条件下的数值具有可比性;然后将其应用于真实温室日志数据,量化仿真与现实的差距。这种方法不仅提升了策略的可解释性,还为温室控制工程师提供了调试和优化奖励函数的明确方向。 ## 框架的关键能力 - **组件分解**:将标量奖励拆解为温度、CO₂、湿度、VPD、遮阳幕和执行代理等独立组件,便于分析每个因素对总体奖励的贡献。 - **跨场景一致性**:支持在模拟训练、设施适应性回放、竞赛日志和规则蒸馏四种场景下对相同组件进行评分,确保评估标准统一。 - **可复现性**:框架基于开源工具GreenLight-Gym构建,所有代码和配置均可复现,有助于学术社区验证和扩展。 ## 行业意义 智能温室是精准农业的关键场景,RL控制有望大幅提升资源利用效率和作物产量。但当前研究多聚焦于算法性能提升,忽略了奖励函数设计的可解释性和可靠性。该工作填补了这一空白,为温室RL控制提供了**工程化的审计工具**。未来,类似的校准优先方法或可推广至其他物理控制领域(如数据中心冷却、建筑能效管理),成为RL落地的标准实践。 论文发表于arXiv,共28页,包含8张图表,详细介绍了框架的设计、实验设置和验证结果。

Anthropic昨天原文

一篇来自 arXiv 的新综述论文(编号 2607.11906)系统梳理了**非平稳环境下上下文强化学习(ICRL)** 这一前沿方向。该文指出,在传统 ICRL 研究中,模型通过上下文窗口内的交互历史(奖励、状态转移、演示等)来推断任务规则并改进行为,且无需更新模型参数。然而,当环境发生非平稳变化时——如奖励函数、转移核、观测通道、动作接口或约束模型改变——先前积累的上下文可能变得过时甚至具有误导性,只有当旧规则重现时才重新有用。这给 ICRL 带来了独特挑战:策略参数固定时,模型必须同时推断当前决策规则以及已有证据中哪些部分仍然有效。 论文将非平稳 ICRL 定义为“在部署策略参数固定不变的前提下,通过上下文自适应地适应变化”的问题,并围绕三个核心维度组织文献:**什么在变化**(奖励、转移、观测等)、**变化如何展开**(突变、渐变、周期性)、**变化对智能体的可观测性**(完全可观、部分可观、隐式)。作者将其与元强化学习、决策序列建模、检索增强强化学习、价值/模型感知 ICRL 以及奖励反馈智能体等方向进行了关联对比。 该综述填补了现有 ICRL 综述主要关注预训练目标、架构、上下文格式、评估协议和理论机制,而相对忽视非平稳性问题的空白。对于希望构建在真实动态环境中长期部署的决策智能体的研究人员而言,该工作提供了关键的问题框架和技术路线图。 **核心贡献:** - 首次明确定义“非平稳 ICRL”并形式化其问题表述 - 提出“变化要素—变化模式—可观测性”三维分类法 - 系统梳理了现有方法如何通过上下文处理非平稳性 - 指出关键开放问题:如何检测变化、如何选择性遗忘、如何利用周期性模式等

Anthropic昨天原文

铁路调度等优化领域严重依赖混合整数线性规划(MILP),但相关建模知识分散在数百篇论文中,符号不统一,传统综述仅按词汇分类,无法复现模型。研究人员提出 **LP Mining with LP2Graph** 方法,通过规范语法将每个模型表示为类型化的变量-方程图,并自底向上聚类变量、约束和目标函数,最终生成可重复的分类体系。该方法经过 CBC、HiGHS 和 Gurobi 求解器验证,为自动化铁路调度模型开发提供了客观基础。

Anthropic昨天原文

一篇来自未来的论文,在2026年7月提交至arXiv,却引发了关于AI对齐与优化文化的深刻讨论。论文标题《Optimization Is Not All You Need》直接呼应了AI领域的经典口号“Attention Is All You Need”,但其核心论点却是一种尖锐的反思:优化本身并不足以定义价值。 ## 从GPT-2的“不完美”说起 2019年,OpenAI公开了200万个GPT-2输出样本——这些文本充满语法错误、逻辑断裂,甚至“半成品”感十足。当时这样做是为了帮助学界检测机器生成文本。然而,随后的GPT-3、ChatGPT等模型通过RLHF(基于人类反馈的强化学习)实现了流畅度的飞跃,这种“对齐”通常被视为工程胜利。 但本文作者Minh Hua和Rita Raley提出了另一种解读:这不过是“优化文化”的最新表现形式。这种文化坚信——早在AI技术出现之前就已存在——只要沿着预设的轴进行可量化的改进,就能穷尽“价值”的全部问题。 ## 优化系统的“盲区” 论文追溯了优化文化在AI全栈中的渗透:从预训练、解码策略、偏好调优,到基准测试和交互界面。它指出,优化过程可以测量一段文本在统计上有多“不寻常”,但无法判断这种不寻常是错误还是创造。 > 一个无法做出这种区分的系统,却在不到五年内,获得了设定“合法语言”协议的权威。 这种权威——过去几百年由学院、课堂、语法书和考官掌握——如今被交给了损失函数、奖励模型、基准和系统提示。换句话说,一套执行“判断职能”的装置,本身却毫无判断能力。 ## 审计社会的技术回响 论文将AI优化文化追溯到更广泛的“审计社会”(audit society)现象——即对一切都进行量化评估的倾向。从教育中的标准化测试到企业中的KPI,再到AI领域的基准排行榜,这种思维一脉相承。 但语言不是数学,文本的价值不能仅由概率或偏好分数决定。当优化系统成为语言评判的最终仲裁者,我们实际上是在让一套没有判断能力的机器决定“什么值得说”。 ## 为何这篇“未来论文”值得关注 尽管该论文发表于2026年(从时间线上看是“未来”),但它讨论的问题在2025年的今天依然紧迫。随着GPT-4o、Claude 3.5等模型在各类基准上刷新纪录,我们是否正在把语言本身的评判权拱手让给优化指标? 这篇论文的评论部分提到,它将发表在《MFS Modern Fiction Studies》2027年春夏合刊——一本文学研究期刊。这本身就暗示了:关于AI与语言价值的讨论,不应只停留在计算机科学领域,而需要人文学科的介入。 ## 小结 《Optimization Is Not All You Need》并非否定优化技术的价值,而是提醒我们:当优化成为唯一标准时,我们可能正在失去对语言创造性和多样性的判断力。在AI能力快速迭代的今天,这篇论文提供了一个值得反复咀嚼的视角:优化是工具,但不应成为目的。

Anthropic昨天原文

arXiv:2607.11951v1 Announce Type: new Abstract: Large language models can write SQL, but enterprise deployment demands more than plausible text: outputs must be syntactically valid, must respect per-role and per-schema policy, must carry provable (not best-effort) guarantees, must not slow down as generations grow, and must leave a compliance-grade record of every decision. We present GRID (Grammar-Railed Decoding), a grammar-constrained decoding engine that keys exact next-token masks on parser

Anthropic昨天原文

## 研究背景:数据主权下的企业大模型需求 受监管的金融机构在数据驻留法规约束下,需要能在机构内部部署的**租户自有语言模型**。这类模型既要保证数据不出域,又要具备足够的智能水平以支撑业务应用。然而,直接使用外部顶尖大模型(如GPT-5)涉及数据出境风险,而完全自研大模型成本过高。因此,如何利用蒸馏等技术将前沿模型的能力“迁移”到可在本地运行的小模型上,成为业界关注的方向。 ## 核心方法:本体增强蒸馏与语境审计 该研究来自arXiv预印本(编号2607.11948),作者Thanh Luong Tuan将两项相关研究整合为一篇机制与控制文章: 1. **本体增强蒸馏的机制验证**:研究采用**Qwen3.6-27B**作为学生模型,通过**监督微调**和**基于本体的直接偏好优化(DPO)**,使其适应Foundation AgenticOS本体。训练数据来自前沿教师模型的轨迹和47个合成的英文跨领域偏好对,整个训练在单个**Apple M5 Max**芯片上完成。在40项保留的越南语金融领域任务上,蒸馏后的学生模型**接地率**为0.90(36/40),与GPT-5基线持平(同样36/40)。但作者明确指出,该结果**统计功效不足**:配对差异的95%置信区间跨度达±4个任务,且未验证预先注册的“学生超越前沿”假设。 2. **语境审计的负结果试验**:研究还整合了一种用于企业智能体路由的语境审计方法。在独立的负结果试验中,所有Phase 1.3组的**校正规范语境依赖度**均为零,无论本地Qwen运行还是Gemma复制检验。有用的信号来自**直接影响和构造耦合**,而非残存的语境依赖。 ## 关键发现与局限 - 蒸馏模型在接地率上与GPT-5相当,但受限于样本量(仅47个偏好对),无法得出等效性结论。 - 语境审计未发现显著的语境效应,提示在企业路由场景中,分歧应更多归因于直接因果关系,而非上下文偏差。 - 作者强调,当前证据**不支持**模型的可部署性、安全性、优越性、统计等效性,也不支持基于语境的积极路由规则。 ## 行业启示 该研究为**主权AI**领域提供了一个严谨的方法论框架:一方面展示了本体增强蒸馏在数据受限环境下的可行性,另一方面通过负结果报告避免了过度乐观的结论。对于金融等强监管行业,这种“机制验证+负结果审计”的组合思路,有助于建立更可靠的模型治理体系。 ## 小结 这项研究没有带来令人兴奋的SOTA突破,但其价值恰恰在于**诚实报告局限性**,并为企业级语言模型的合规部署提供了可复用的审计工具。在AI安全与数据主权日益重要的今天,这种**审慎的研究范式**或许比单纯追求性能提升更具长期意义。

Anthropic昨天原文

## 研究背景与核心问题 在去中心化永续合约市场中,做市商面临复杂挑战:如何动态调整买卖价差、管理库存风险,并在多个交易所间优化对冲策略?传统做市模型(如Avellaneda-Stoikov)主要适用于中心化市场,未充分考虑零手续费、资金费率等去中心化特性。近期,一篇发表于arXiv的论文提出了一套**严格的理论框架**,试图解决这一问题。 ## 关键贡献 该研究将做市商问题建模为**随机最优控制问题**,在滤波概率空间上控制自适应价差和跨交易所库存对冲。主要贡献包括: 1. **PnL分解定理**:将收益拆解为价差收入、逆向选择损失、库存持有成本、对冲摩擦和资金费率敞口五个部分,清晰揭示盈利来源。 2. **HJB方程与验证定理**:在CARA效用下推导联合价差-库存-对冲控制的Hamilton-Jacobi-Bellman方程,并给出验证定理。 3. **高APY区间定理**:通过五个无量纲参数刻画盈利区域,并总结出**主APY公式**。 4. **零手续费经济学分析**:针对去中心化永续交易所,给出最优入场/退出阈值。 5. **跨交易所对冲策略**:考虑资金费率动态,提出对冲机制的三分法。 6. **鲁棒性边际**:量化参数不确定性容忍度。 7. **指数级回撤概率界**与**普适APY-VaR恒等式**。 8. **遍历库存分布**:在最优控制下结合贝叶斯自适应估计。 9. **凯利最优杠杆**与破产边界。 10. **多资产组合配置**与分散化饱和结果。 ## 数值分析与行业意义 论文通过**23个图表**的数值分析,揭示了盈利与非盈利区间之间的相变。该框架统一并扩展了Avellaneda-Stoikov、Gueant-Lehalle-Fernandez-Tapia和Glosten-Milgrom等经典范式,使其适用于现代去中心化交易场所。 对于AI与金融交叉领域,这一工作展示了**强化学习与最优控制**在量化交易中的前沿应用。做市商可借鉴其自适应价差策略和库存管理方法,在DeFi领域实现更高收益。同时,主APY公式为流动性提供者提供了可量化的决策工具。 ## 总结 这篇42页的论文为永续合约做市提供了**理论完备的解决方案**,尤其适用于零手续费环境。未来,结合机器学习算法进行参数估计,有望进一步提升策略的实盘表现。

Anthropic昨天原文

一篇新论文提出了一种名为“玻尔兹曼MapReduce”的理论框架,将MapReduce的Reduce阶段重新解释为一个分区函数,为分布式计算中的置信度聚合提供了统计力学视角。 ## 核心思想 论文作者Yossi Eliaz指出,在局部渐近正态性条件下,每个工作节点处理大小为n的数据块后产生的置信密度可以表示为吉布斯-玻尔兹曼分布: $$\exp\{-\beta E(\theta)\}$$ 其中逆温度参数β等于样本大小n。这一发现将统计学中的置信推断与统计力学中的玻尔兹曼分布联系起来。 ## 主要结论 论文推导了三个关键结论,这些结论在高斯/线性情形下精确成立,在其他情形下一阶近似成立: 1. **独立玻尔兹曼因子**:不相交数据块产生的置信密度相互独立,其乘积构成联合置信密度 2. **分区函数Reduce**:MapReduce中的Reduce操作可以理解为计算分区函数: $$Z = \int \prod_k h_k \, d\theta$$ 其众数(最大后验估计)等价于精度加权(逆方差)池化 3. **频率学派一致性**:当温度T=1/n趋近于0时,即样本量趋于无穷,估计量收敛到真实值 ## 应用场景 该框架特别适用于“可分叉沙箱”环境——即子任务可以独立并行执行,且结果需要高效聚合的场景。传统MapReduce的Reduce阶段通常采用简单平均或投票机制,而玻尔兹曼MapReduce提供了基于统计力学的更优聚合策略。 ## 理论意义 这项工作架起了统计力学、概率论和分布式计算之间的桥梁。通过将置信密度视为玻尔兹曼分布,研究者可以利用统计力学中的成熟工具(如配分函数、自由能)来分析分布式算法的收敛性和效率。 论文目前以预印本形式发表在arXiv上(编号2607.09689),属于人工智能、概率论和统计理论交叉领域。对于从事大规模分布式机器学习、联邦学习以及置信度聚合的研究者而言,这一理论可能提供新的优化思路。

Anthropic2天前原文

## 引言:当“作弊”式优化失效,AI需要什么样的验证器? 在代码生成领域,一个常见的做法是用学习型评判器(learned judge)对模型进行后训练,以提升生成代码的质量。然而,这种优化往往导致模型学会“取巧”——它可能优化那些能提高评分、却未必真正改善代码功能的代理特征(proxy features)。换句话说,模型学会了“刷分”,而不是真正“做事”。 来自arXiv的最新研究《The Verifier is the Curriculum: Execution-Gated Self-Distillation for Cross-Family Game Generation》提出了一种截然不同的思路:使用一个确定性、无需评判器、无法作弊的过滤器——即检查生成的游戏项目能否在无头引擎下顺利启动(strict-launch)。这种“执行门控”信号,结合拒绝采样自蒸馏(rejection-sampling self-distillation),能够显著提升模型在未见游戏家族上的泛化能力。 ## 核心方法:执行门控自蒸馏 研究团队构建了 **GameCraft-Bench**,一个将自然语言需求描述映射为完整Godot游戏项目的基准测试。他们使用 **Qwen3-14B + LoRA** 作为基础模型,通过以下流程进行迭代: 1. **生成候选项目**:模型根据自然语言描述生成Godot项目。 2. **执行门控过滤**:只有那些在无头引擎下能够“干净启动”的项目(即通过strict-launch检查)才被保留。 3. **自蒸馏**:将过滤后的成功项目作为新训练数据,微调模型,然后重复该过程。 经过三轮迭代,模型在四个未见过的游戏家族上的**干净生成率**从 **8.8% 跃升至 42.2%**(按每个候选项目计),而**最佳K覆盖**(best-of-K coverage)从 **18/25 提升至 25/25**,达到了黄金天花板。统计检验显示,每一轮的提升都是显著的(p值分别为0.0019, <1e-4, <1e-4)。 ## 关键发现:验证器的精度才是核心 为了证明提升并非来自数据量的简单增加,研究团队进行了几组对比实验: - **黄金重复控制**:使用与成功项目数量完全匹配的、由人类验证过的“黄金”项目进行训练,结果模型性能反而**下降**到 **5.6%**(低于基线的8.8%),说明单纯增加正确数据并非关键。 - **分解分析**:将第1轮到第2轮的提升分解为质量通道(+8.8个百分点)和数量通道(+8.5个百分点),两者贡献相当。 - **过滤器替换实验**:将strict-launch过滤器替换为宽松的 **BUILD检查**(能通过99.9%的生成项目),结果所有增益**完全消失**(性能回到基线),从而证明增益完全来自于验证器的精度,而非优化过程本身。 此外,另一个无法作弊的信号——**无头执行落地性**(headless execution grounding)——在多个轮次中单调上升,并且在相同预算下,执行门控蒸馏产生的可落地候选项目数量(16个)远超黄金重复方法(5个),说明模型学到的功能是实实在在的,而非“能启动但内容空洞”。 ## 启示:验证器即课程 这项研究的核心洞见是:**验证器即课程**——模型学会的正是验证器所认证的东西。如果验证器只能检测表面特征(如能否编译),模型就会只优化这些表面特征;而如果验证器检测的是实际运行能力(如能否启动并执行),模型就会真正提升功能质量。 对于AI代码生成领域,这一发现具有深远意义:与其依赖可能被“刷分”的神经评判器,不如设计更精确、更“硬核”的执行验证信号。游戏生成因其可验证性,成为了这一理念的理想试验场。未来,类似的“执行门控”方法或许可推广到其他代码生成任务,甚至更广泛的AI生成内容领域。

Anthropic2天前原文

旅行商问题(TSP)是组合优化领域的经典难题,其精确求解在大规模实例下计算成本极高。传统图稀疏化方法多依赖固定启发式规则,难以充分利用实例特有的结构信息。针对这一瓶颈,研究团队提出了一种名为 **GES(Graph Edge Sparsification)** 的**学习型稀疏化方法**,专为欧几里得 TSP 设计。 GES 的核心思路是将**几何结构信息**与**组合优化技术**深度融合,通过模型学习为不同实例**自适应生成稀疏化图**。与传统方法不同,GES 能够根据问题特征动态剪枝,大幅减少图中冗余边数量,从而显著加速求解过程。实验结果表明,在 **MATILDA 数据集**上,该方法可**剪除高达 95% 的边**,同时保证求解结果与最优解的**差距控制在 1% 以内**。更令人印象深刻的是,在 **TSPLIB 基准**中的部分大规模实例上,剪枝率甚至**超过 99%**,而最优性差距仍然**低于 1%**。 这一成果揭示了**数据驱动方法**在传统组合优化中的巨大潜力。与手工设计的启发式规则相比,学习型方法能够捕捉更高层的结构模式,从而在保持近似精度的同时实现极致的计算压缩。对于物流、电路设计、路径规划等依赖 TSP 求解的实际应用而言,GES 提供了一种**兼顾效率与质量**的新思路,有望推动大规模 TSP 精确求解走向实用化。 未来,该团队的工作方向可能包括将 GES 扩展到其他图优化问题(如 VRP、最大割等),或进一步结合强化学习提升稀疏化策略的自适应性。

Anthropic2天前原文

## 当语言模型“假装”会计算:YUKTI 如何终结单点决策的脆弱性 当前主流的大语言模型(LLM)决策管线(如 NL4Opt、OptiMUS、ORLM 等)遵循一个固定范式:将自然语言描述的情境转化为单一目标函数和点值系数,然后求解一次。对于分配真实预算、精力或临床注意力的决策,这种“自信”恰恰是失败根源——**每个被客观化的数字都是一项假设**,计划仅在猜测完全正确时最优,本质上只是计算的模仿。 **YUKTI** 彻底改变了自动公式化的目标。其核心表示是一个**类型化命题图**,图中的关系携带形状先验、系数不确定性和来源追踪。YUKTI 将每个阶段路由到精确求解器、非线性求解器或进化求解器,通过**分布帕累托交接**耦合各阶段,并引入**假设鲁棒帕累托前沿**——通过重采样假设(包括结构 epsilon 污染)来评估每个行动存活的频率(**rho**)。研究证明,rho 恰好是决策遗憾的一个精确因子,同时提供可审计的追踪性,并在无合适基准时合成忠实的数据基础(SRJANA)。 ### 验证结果:遗憾降低超 90% YUKTI 在三类场景中完成验证: - **受控错误设定下**:鲁棒折中方案相比朴素点计划,将平均遗憾和尾部遗憾降低 **超过 90%**; - **受监管商业决策**:在合法行动空间内优化,并以欧元量化下行风险价格; - **真实公开数据集(41,188 个决策)**:样本外回测比历史现状改进 **34%**,比朴素点规则改进 **4%**,同时显著降低优化器诅咒。 ### LLM 是公式化者,不是求解器 研究特别指出,即使给 LLM 提供正确的数字和单一目标优化,其保留遗憾仍约为 YUKTI 的 **47 倍**。这意味着:**LLM 擅长将情境转化为公式,但本身并非可靠的求解器**。在长程因果耦合下,前向交接变得不可靠,必须退化为逆向归纳的因果策略。 YUKTI 并未追求基准测试的 SOTA 排名,而是提供一种全新的决策范式:**承认不确定性、量化假设风险、并生成可验证的鲁棒方案**。对于医疗资源分配、预算规划等高风险场景,这一思路或许比追求更高准确率的模型更为关键。

Anthropic2天前原文
1 / 36下一页