SheepNav

AI 资讯

每日聚合最新人工智能动态

Notion Agents 正式登陆 iOS:随时随地与你的 AI 助手对话

Notion 近日推出了 **Notion Agents** 的 iOS 应用,让用户能够随时随地在移动设备上与自己的 AI 助手进行对话。这一举措标志着 Notion 在将 AI 能力融入工作流方面迈出了重要一步,将原本局限于桌面端的智能代理功能延伸到了移动场景。 ## 核心功能与体验 Notion Agents iOS 应用的核心功能是让用户能够通过自然语言与 AI 助手进行交互。用户可以在应用中直接向 Agent 提问、下达指令或寻求信息整理,Agent 则会基于 Notion 中的知识库和用户权限提供实时响应。这意味着,即使不在电脑前,用户也能快速获取项目更新、整理会议笔记、生成待办事项,或进行头脑风暴。 与桌面端类似,iOS 版 Agent 同样支持上下文记忆和个性化设置。用户可以为不同的工作场景创建专属 Agent,例如“市场研究助手”或“代码调试助手”,并为其定制行为规则和知识范围。应用界面延续了 Notion 一贯的简洁设计,对话记录会自动同步到云端,确保多设备间的无缝衔接。 ## 行业背景与战略意义 Notion 此次推出移动端 AI 代理,正值 AI 办公助手赛道竞争白热化之际。微软 Copilot、Google Workspace 的 Duet AI 以及 Notion 自身的 AI 功能都在争夺用户的注意力。但与竞品不同,Notion 的优势在于其强大的文档和数据库管理能力——Agent 不仅是一个聊天机器人,更是一个能够直接操作 Notion 工作区的智能体。 移动端的推出解决了用户长期以来的痛点:碎片化时间的高效利用。在通勤、出差或会议间隙,用户无需打开笔记本电脑就能处理工作事务。这符合“随时随地工作”的趋势,也增强了 Notion 作为一体化工作平台的粘性。 ## 潜在影响与挑战 对于个人用户而言,iOS 版 Agent 降低了 AI 的使用门槛,让非技术用户也能轻松构建自己的工作流。对于团队用户,移动端访问意味着成员可以更快地响应协作需求,例如在会议中实时查询项目进度或更新任务状态。 不过,移动端也面临一些挑战。首先,屏幕尺寸和输入方式的限制可能影响复杂任务的执行效率。其次,用户对隐私和安全的担忧依然存在——尤其是当 Agent 需要访问敏感数据时。Notion 表示,所有对话数据均经过加密处理,并遵循既有的权限体系。 ## 小结 **Notion Agents iOS 应用** 的发布,不仅是产品功能的延伸,更反映了 AI 工具从“桌面工具”向“移动伴侣”演进的趋势。对于 Notion 的忠实用户来说,这无疑是一个值得期待的新功能。随着移动端能力的不断完善,AI 助手或许将真正成为我们数字化生活中的“第二大脑”。 目前该应用已可在 App Store 下载,但需要用户拥有 Notion 账户并启用 AI 功能。未来,Notion 还可能推出 Android 版本,进一步扩大覆盖范围。

Product Hunt1133个月前原文
IvyForms:专为真实工作流打造的WordPress表单构建器

IvyForms 是一款面向 WordPress 用户的表单构建工具,但它的定位并非简单的“拖拽生成器”,而是直指真实业务场景中的工作流痛点。在 AI 与无代码工具快速渗透的当下,表单类产品往往停留在收集数据层面,而 IvyForms 试图向前一步——将表单与后续操作无缝衔接。 ## 不止于表单,更是流程起点 传统 WordPress 表单插件(如 Contact Form 7、Gravity Forms)虽然成熟,但用户常常需要在表单提交后手动处理数据:导出 CSV、发送邮件、对接 CRM……每一步都可能成为效率瓶颈。IvyForms 的核心差异在于,它将表单视为工作流的触发器,支持在提交后自动执行一系列操作,例如: - **自动发送定制邮件**(含动态内容) - **与第三方应用集成**(如 Slack、Notion、Google Sheets) - **条件逻辑跳转**(根据用户输入改变后续步骤) 这种“表单+自动化”的模式,在 AI 驱动的低代码浪潮中并不陌生,但专门针对 WordPress 生态的解决方案仍属稀缺。 ## 对 AI 行业从业者的启示 对于 AI 产品经理或技术写作者而言,IvyForms 的价值不仅在于工具本身,更在于它反映了一个趋势:**表单正在从“数据采集器”进化为“业务连接器”**。当大模型能够理解自然语言意图时,表单的交互方式也可能被重塑——未来或许用户只需描述需求,系统便能自动生成对应的表单和工作流。IvyForms 的实践,可以看作是这种演变的一个早期注脚。 ## 适用场景与门槛 目前 IvyForms 主要面向中小型网站所有者和自由职业者,尤其适合需要快速搭建咨询、报名、订单等流程的场景。不过,它的自动化深度依赖于第三方集成(通过 Zapier 或自定义 Webhook),对于完全离线的复杂工作流可能力不从心。此外,作为一款较新的产品,其模板库和社区生态尚在成长中。 ## 小结 IvyForms 没有标榜 AI,却暗合了 AI 时代“自动化优先”的思维。对于 WordPress 用户来说,它是一个值得关注的选择——特别是当你厌倦了表单提交后仍需手动“擦屁股”的体验时。

Product Hunt2773个月前原文

在 AI 安全领域,一场关于“红队测试”(Red Teaming)的攻防演练再次引发了行业关注。近日,一项名为 **GitLost** 的攻击演示揭示了 GitHub 的 AI 代理如何被巧妙操纵,进而泄露私有仓库中的敏感信息。该演示在 Hacker News 上迅速获得 **533 分** 和 **203 条评论**,成为社区热议的焦点。 ## 攻击手法:利用权限与上下文混淆 GitLost 的核心思路是利用 AI 代理在处理 GitHub 仓库时的权限边界模糊性。通常,GitHub 的 AI 代理(如 Copilot 或 Code Review 助手)被授予访问特定仓库的权限,用于代码补全或审查。然而,研究者发现,通过构造特殊的提示词(prompt),攻击者可以诱导代理“忘记”访问控制规则,将私有仓库的内容作为上下文的一部分输出。 具体而言,攻击者可能创建一个公开的 Issue 或 Pull Request,其中包含精心设计的指令,要求代理读取并返回某个私有仓库中的文件。如果代理没有严格校验请求来源与权限范围,就可能将私有数据泄露给未授权用户。 ## 行业背景:AI 代理安全成为新战场 这一事件发生在 AI 代理被广泛集成到开发工具链的背景下。从 GitHub Copilot 到各种代码审查机器人,AI 代理正在改变开发者的工作方式,但同时也带来了新的安全挑战。 **Noma** 和 **Anthropic** 等公司近期明确表示,将 **前沿 AI 应用于代理安全** 是 2026 年的重点方向。Anthropic 在 7 月 8 日发布的声明中强调,代理系统需要具备更强的上下文隔离和权限最小化能力,避免因“过度信任”导致数据泄露。 GitLost 演示恰恰印证了这一点:即使 AI 模型本身是安全的,其作为代理时的权限管理漏洞仍可能被利用。这类似于传统软件中的“提权攻击”——AI 代理在获得合法访问权限后,被诱导执行超出预期的操作。 ## 影响与启示 对于 GitHub 及类似平台而言,GitLost 敲响了警钟: - **权限隔离必须严格**:AI 代理的每次操作都应基于最小权限原则,且需独立验证请求来源。 - **提示词注入防御**:类似于 SQL 注入,AI 代理需要过滤输入中的恶意指令,尤其是在处理来自公开渠道的请求时。 - **透明度与审计**:用户应能查看代理执行的操作日志,以便在发生泄露时快速溯源。 目前,GitHub 尚未对 GitLost 做出公开回应。但可以预见,随着 AI 代理在软件开发中的普及,类似的安全事件将推动行业制定更严格的安全规范。开发者在使用 AI 工具时,也需警惕“便利性 vs 安全性”的权衡,避免盲目信任。 ## 小结 GitLost 并非孤例,而是 AI 代理安全挑战的一个缩影。从 Noma 到 Anthropic,业界已开始重视这一领域。对于普通开发者而言,保持对 AI 工具权限的警惕,及时更新安全策略,是防止数据泄露的关键一步。

Hacker News5393个月前原文

大型语言模型虽已能端到端生成学术手稿,但现有系统普遍存在三大硬伤:生成的论断无法在可验证文献中确定性地溯源、实验结果经常被编造而非真实执行、缺乏标准化的多维评估框架来衡量AI生成稿件是否达到发表质量。近日,一篇发表于arXiv的论文提出了**Prompt-to-Paper**——一个专为生物信息学设计的**多智能体框架**,通过三项集成创新直接回应了上述评估缺口。 ### 三大核心创新 **1. 确定性检索增强生成(RAG)管道** 系统采用章节感知的相关性评分与雪球引用扩展机制,将每个论断都锚定在60至100篇论文的可验证语料库中。与传统RAG不同,该管道确保每一条生成内容都有确切的文献支持,而非模型“凭空捏造”。 **2. 自主编码智能体** 该智能体能够**执行真实的计算生物学实验**,直接产出真实的数值结果,彻底取代了以往系统常见的合成或虚构输出。这意味着论文中的图表和数据均来自实际运行的程序,而非语言模型臆想。 **3. 八维自动质量评分器** 系统引入了一个标准化的质量评估工具,以已发表论文的近似参考统计量为基准,并附加明确的幻觉惩罚。评分器从八个维度对稿件进行打分,提供可重复的量化评价,从而驱动质量改进循环。 ### 质量提升循环 Prompt-to-Paper 内置了一个上下文丰富的修订器,每次迭代后,系统会根据当前质量得分选择三种研究动作之一(例如重新实验、调整写作或深入检索)。每十次迭代触发一次**深度研究循环**,重新运行实验并基于更强的输出重新撰写手稿。这一机制使得稿件质量在0-100分的尺度上平均提升**+17.96分**,最高提升达**+26.04分**。 ### 验证结果与成本 研究团队在五个生物信息学案例上验证了系统。所有五个案例均生成了符合投稿格式的PDF,且**零越界引用**。作为外部检查,一位人类评审员对五篇稿件给出了平均**7.0/10**的评分。更令人印象深刻的是,每篇论文的生成成本仅约**0.31美元**,远低于传统人工撰写或使用商业AI写作服务的花费。 ### 行业意义 Prompt-to-Paper 的出现标志着AI学术写作从“内容生成”向“可验证研究”的重要转变。它通过将文献溯源、真实实验执行与量化质量评估有机结合,有望大幅降低生物信息学领域的研究门槛,加速科学发现。然而,该系统目前仍局限于生物信息学子领域,其通用性和对复杂实验的适配能力尚待进一步检验。

Anthropic3个月前原文

人工智能的可解释性一直是高风险领域(如工业物联网安全)落地的关键瓶颈。传统方法多聚焦于输入输出变量间的相关性,难以揭示系统行为的根本因果机制。针对这一问题,一项发表于 arXiv 的新研究提出了一种受统计力学启发的框架,通过能量模型对网络物理系统进行依赖感知的结构归因,无需显式恢复有向因果图,即可实现高精度、高鲁棒性的异常解释。 ## 因果归因的困境与新思路 在复杂的网络物理系统中,变量间常存在反馈回路和部分可观测性,导致传统的因果图恢复方法难以扩展。该研究团队指出,与其执着于重建有向结构,不如将系统视为一个能量平衡的整体——每个组件的状态变化都会引起系统能量景观的波动。通过分析这种能量变化,可以追溯出对异常行为贡献最大的变量,从而提供更稳健的解释。 ## 方法核心:能量景观与依赖归因 该框架的核心是将系统的联合状态映射到一个能量函数上,该能量函数通过图结构编码变量间的依赖关系。归因分数通过计算移除某个变量后能量景观的变化来获得,类似于物理学中“微扰理论”的思路。这种方法天然支持混合变量(连续与离散)的处理,并且能捕捉高阶交互效应,这是传统基于梯度或 Shapley 值的方法难以做到的。 ## 实验验证:工业物联网测试床 研究团队在一个包含连续传感器数据和离散控制信号的工业物联网测试床上进行了仿真实验。与多种基线方法(如 Integrated Gradients、Graph Attention 等)相比,新方法在归因准确率(提升约 15%)、对噪声的鲁棒性以及计算可扩展性上均表现出显著优势。值得注意的是,该方法虽不承诺完全恢复系统的生成动力学,但其提供的依赖感知解释已足够支撑异常诊断和预测性维护等下游任务。 ## 更广的应用前景 尽管论文以工业物联网安全为演示场景,但作者强调该框架同样适用于其他高维网络物理系统和社会技术系统——只要系统具有可建模的结构化交互。这为自动驾驶、智能电网、医疗物联网等领域的可解释 AI 提供了新的工具。 ## 小结 从“图”到“梯度”再到“能量”,这项研究跳出了因果图恢复的传统范式,用物理学的视角重新定义了结构归因。它的出现不仅提升了 AI 在关键基础设施中的可信度,也为可解释性研究开辟了一条“少即是多”的路径——有时,不追求完全的因果结构,反而能获得更实用、更高效的解释。

Anthropic3个月前原文

大型语言模型作为AI导师的应用日益广泛,但在K-12教育场景中部署时,隐私、成本和对专有模型的依赖成为主要顾虑。小语言模型(SLM)提供了有前景的替代方案,然而如何为特定教育场景选择合适的模型仍是一大难题,尤其是当目标领域(如积木式编程)在模型训练数据中几乎不存在时。为此,研究者提出了 **CSTutorBench**——一个专门评估语言模型在VEX VR(积木式机器人编程环境)中担任计算机科学导师能力的基准测试。 该基准包含 **17个场景化问题**,依据基于成熟辅导与反馈研究构建的教学法评分标准进行打分,并采用“人在回路+LLM作为裁判”的流水线进行评估。初步测试覆盖了 **11个模型**(参数量从4B到120B),结果发现: - 模型在 **词汇和语气** 等表层标准上表现良好; - 但在 **深层教学行为** 上存在明显不足,尤其是 **避免直接给出答案** 和 **利用学生调试历史** 这两个方面。 有趣的是,**模型家族和指令微调方法** 比参数量更能预测辅导质量,尽管样本量有限限制了这一结论的强度。此外,基于最新教育提示工程研究的目标性提示修订,使 **11个模型中的10个** 得分提升。 这些结果凸显了 **情境特定、基于教学法的基准测试** 对于在教育部署中选择SLM的重要性。CSTutorBench为教育者和开发者提供了一个实用工具,帮助他们评估不同小语言模型在积木式编程辅导中的实际表现,推动AI助教在K-12场景中的安全、高效落地。

Anthropic3个月前原文

近年来,大型语言模型(LLM)和视觉语言模型(VLM)的进步使得从自然语言描述自动生成参数化3D设计成为可能。一篇发表于arXiv的论文(编号2607.05573)对用于机械零件自动计算机辅助设计(CAD)生成的基础模型进行了实证研究,提出了统一评估流程和包含97个工程设计问题的基准测试,并引入了多模型文本到CAD框架LLMForge。 LLMForge集成了JSON模式验证、分析特征评分、网格合成和多轮迭代优化,在两种评估机制下进行测试:**IterTracer**使用Phong着色光线追踪渲染器,通过分析视觉指标(如轮廓IoU、孔可见性、边缘间隙、长宽比符合度)提供轻量级几何感知反馈;**IterVision**则用VLM语义评判器(Qwen2.5-VL-72B)替代分析评分器,通过思维链视觉推理评估渲染视图的空间一致性和设计意图。 在涵盖四种典型几何族(带孔和螺栓圈的板、多特征箱体、法兰圆柱和L型支架)的基准测试中,研究评估了七个基础模型:DeepSeek-V3.2、Qwen3-235B-A22B、Llama-3.3-70B、Gemma-3-27B、GLM-4.5、MiniMax-M2.1和INTELLECT。在IterTracer下,排名前四的模型得分紧密聚集(总体均值在0.885至0.890之间),网格生成成功率达98.97%,表明紧凑型指令微调模型可匹配甚至超越更大规模系统。基于VLM的IterVision机制在领先模型上实现了100%的水密网格生成,但揭示了旋转对称几何体(如圆柱)的系统性困难,其中视觉评分与语义评分差异最大。 论文讨论了基准设计、失败模式、面向CAD的提示工程,以及对工业工作流程和可扩展自动化机械设计的启示。该研究已被收录为Springer出版的《全球应用人工智能进展》一书章节。

Anthropic3个月前原文

大型语言模型(LLM)在科学发现中的应用日益广泛,从构思、文献综合、实验规划到报告生成,AI助手正逐步渗透整个科研流程。然而,一个关键问题始终悬而未决:**AI提出的第一个研究问题是否经得起推敲?** 它可能听起来头头是道,但却隐藏了机制、可证伪条件或假设,使得科学家难以审计。近日,一篇发表于arXiv的论文提出了 **FirstResearch** 框架,旨在为LLM科学代理提供一种可审计的研究问题形成方法。 ### 核心创新:研究问题证书 FirstResearch 的核心产出并非一个简单的问题陈述,而是一份结构化的 **“研究问题证书”** 。该证书包含七个关键组成部分: - **原始定义**:明确问题涉及的基本概念。 - **假设**:列出问题所依赖的隐性或显性前提。 - **机制模型**:描述问题背后的因果或逻辑机制。 - **张力或矛盾**:指出现有知识中的缺口或冲突。 - **可证伪假设**:提出一个可以被实验推翻的具体假设。 - **最小决定性测试**:设计一个能验证假设的最简实验。 - **失败更新规则**:规定如果测试失败,如何修正问题。 通过这种结构化的呈现,科学家在进入下游执行(如实验、仿真)之前,就能对问题的合理性进行逐项检查。 ### 性能表现:超越多个强基线 研究团队在10个LLM代理研究主题上,将 FirstResearch 与基于 AI co-scientist、Agent Laboratory 和 AI Scientist-v2 的提示工程基线进行了对比。评估采用 **DeepSeek 作为盲审裁判**,结果显示 FirstResearch 在系统级排名上显著领先。随后,使用 **Gemini-2.5-Flash 作为独立裁判** 对相同的40个基线包进行重新评分,结果保持了相同的排名顺序:FirstResearch 得分 **4.86/5**,而最强基线得分为 **4.38/5**。两个裁判的平均分 Pearson 相关性高达 **0.865**,表明结果具有良好的一致性。 ### 消融实验:证书是核心 进一步的消融实验揭示了证书的核心作用:仅保留证书组件时,DeepSeek 评分达到 **4.90/5**,Gemini 评分达到 **4.88/5**;而移除证书后,两个裁判的评分均骤降至 **1/5 以下**。这明确表明,明确推导约束是提升可审计性的关键机制。 ### 局限与展望 作者谨慎指出,当前结果仍是初步的,且使用了LLM裁判而非人类领域专家。但这一工作为 **“使AI生成的研究问题更可审计”** 提供了有前景的方向。代码、提示、输出和复现脚本已开源,可供社区进一步验证和改进。 对于科研工作者和AI开发者而言,FirstResearch 不仅是一个工具,更是一种思维范式的转变:**在追求AI自动化的同时,确保每个步骤都透明、可审查**。这或许是构建可信赖科学AI的关键一步。

Anthropic3个月前原文

语言代理的运行遵循“观察-推理-行动”循环,但长期以来,其依赖的记忆存储始终位于循环之外——每个轮次最多查询一次。一项来自arXiv的新研究挑战了这一设计惯例,提出将记忆**移入循环内部**,在每一步都进行读写操作。 传统观点认为,网络化存储的延迟(数十至数百毫秒)是主要障碍,可能导致端到端延迟增加**83倍**。然而,研究人员指出,延迟问题并非源于“循环内检索”这一模式本身,而在于**存储的位置**。他们提出使用**进程内存储**,其响应时间约为**100微秒**,比网络存储快三个数量级。在此速度下,每步检索的开销几乎可以忽略不计。 研究基于“扩展心灵理论”的**对等原则**:当一个存储设备足够快速且可直接访问时,它便不再是代理偶尔查阅的工具,而是成为了**扩展工作记忆**的一部分。因果实验表明,在固定每步记忆延迟预算的情况下,**冗余行动数量随延迟增加而单调上升**:在进程内速度下,12个任务中冗余行动为**0.0**;而在110毫秒云往返延迟下(使用GPT-5-nano和GPT-5-mini),冗余行动达到**7.2**(精确置换检验p=0.0079)。 端到端测试在四种GPT-5类模型上展开,结果显示:在有限窗口下,使用循环内记忆后,召回率从**0/5**提升至**3.6–4.8/5**,存储操作的中位延迟为**80–165微秒**。值得注意的是,一个要求“每次回复都复述事实”的基线方法也能完美解决问题,但代价是**令牌消耗随工作集增长而激增**。 研究进一步发现,存储本身从未丢失任何事实(244次写入全部保留),所有缺失均源于代理的**读取策略**而非存储故障。此外,测量揭示了真正的瓶颈:**嵌入生成**占据了主要成本(网络环境下约200–400毫秒)。通过将进程内存储与小型本地嵌入器配对,完整操作延迟可降至约**40微秒**。 这项研究不仅挑战了语言代理记忆系统的设计范式,也为构建更高效、更可靠的自主代理提供了明确的技术路径。

Anthropic3个月前原文

大型语言模型(LLM)驱动的智能体系统正在变得日益复杂,它们需要跨多轮对话、工具调用乃至跨会话工作流持续积累上下文。然而,传统做法——为每次请求重放完整历史——正变得不切实际:长上下文不仅增加了预填充(prefill)成本,可能超出上下文窗口限制,更会将任务相关的关键证据淹没在无关内容中,同时损害服务效率与输出质量。针对这一痛点,来自学术界的研究团队提出了 **Akashic**,一个围绕 **MemAttention** 构建的低开销内存系统,旨在以更智能的方式管理长上下文,显著提升推理效率与任务准确性。 ### MemAttention:分块记忆与语义关联 Akashic 的核心创新在于 MemAttention 机制。它不再将整个对话历史视为一个不可分割的连续序列,而是将上下文组织成**有界的分块(chunks)**,并显式建模跨分块之间的语义关系。这种方法的关键优势在于:它能够**保留跨分块的关键证据**,而无需每次都重写完整的历史记录。当智能体需要回溯之前某个工具调用的结果或几轮对话前的用户意图时,MemAttention 可以直接定位到相关分块,而不是在海量文本中“大海捞针”。 ### 软硬协同:减少检索碎片化与I/O开销 除了核心算法创新,Akashic 还采用了**硬件-软件协同设计的内存放置策略**。系统会分析分块之间的共现模式,将那些**很可能被同时检索到的分块在物理存储上“就近”放置**。这种设计有效减少了检索过程中的碎片化问题,并大幅降低了 I/O 开销。在分布式推理场景中,这意味着更少的数据跨节点搬运,从而节省带宽、降低延迟。 ### 性能数据:准确率提升10.2个百分点 研究团队在四个代表性工作负载和三种不同规模的模型上进行了评估。结果显示,与当前最先进的记忆基线方案相比,Akashic 实现了多项关键指标的显著提升: - **任务准确率**最高提升 **10.2 个百分点**; - **吞吐量**提升高达 **1.21 倍**; - **可持续请求率**(即在保持服务质量的前提下能处理的最大并发请求数)提升高达 **1.88 倍**。 这些数据表明,Akashic 不仅在准确性上优于现有方法,而且在系统效率方面也有质的飞跃,能够支撑更大规模的 LLM 智能体服务。 ### 行业意义与展望 长上下文管理一直是 LLM 落地中的核心挑战之一。现有方案如滑动窗口、稀疏注意力或简单的摘要压缩,往往在信息完整性和计算效率之间难以两全。Akashic 提出的“分块+语义关联+协同放置”的组合思路,为这一难题提供了一个优雅且高效的解决方案。 对于正在构建复杂智能体应用的开发者而言,这项技术意味着:他们可以更自由地设计需要长期记忆和工具协作的工作流,而无需担心上下文爆炸或性能瓶颈。Akashic 的研究成果不仅停留在理论层面,其显著的性能提升数据已经展示了在真实生产环境中部署的巨大潜力。 随着 LLM 应用从简单的问答向复杂的自主代理演进,类似 Akashic 这样的高效记忆系统将成为基础设施的关键一环。未来,我们或许会看到更多融合了语义理解与系统优化思想的创新方案,共同推动大模型服务进入更高效、更智能的新阶段。

Anthropic3个月前原文

长篇小说创作中,作家需要一种能够回答多跳问题的记忆系统,例如“谁在何时知道了某个秘密?”、“某个事件是否发生在揭示它的叙述之前?”、“某个伏笔是否得到呼应?”以及“人物关系如何变化?”。通用检索和智能体记忆系统虽然能表示实体和事实,但缺乏处理这些问题的叙事学结构,导致检索结果不相关或为空。 为此,研究人员提出了**叙事世界模型(NWM)**,一种专为作家设计的记忆系统。NWM 结合了基于叙事学的带类型的时间状态图与查询条件混合检索。为了评估记忆系统本身而非回答者的能力,研究团队使用固定的 Opus 4.8 阅读器,仅基于系统提供的章节安全证据进行测试,并在可复现的公共语料库和经过验证的多跳基准上进行对比。与当前最强的时序知识图谱智能体记忆框架 **Graphiti/Zep** 相比,NWM 在两个语料库上的多跳叙事学问答任务中均取得了显著且稳定的优势。其性能远超 GraphRAG 和平面检索。 实验表明,NWM 的优势源于其表征能力,而非提取过程的差异。即使使用 NWM 自身的提取器重建基线系统,NWM 仍然保持领先。这种优势主要归功于其基于叙事学的结构以及查询条件检索,而非图的大小或提取器质量。该研究为 AI 辅助写作提供了新的方向,展示了如何将叙事理论融入记忆系统以支持复杂的故事创作需求。 **核心贡献:** - 提出 NWM,一种将叙事学知识显式建模的记忆系统。 - 通过受控实验证明叙事结构对多跳问答的重要性。 - 为 AI 在长文本创作中的应用提供了新的评估基准和方法。

Anthropic3个月前原文

## 你的家族在OpenAI中拥有的300美元股份 Sam Altman曾提议让美国人分享AI创造的财富,如今这一提议再次成为焦点。据报道,Altman正在讨论向美国政府转让OpenAI **5%** 的股份。按公司当前估值计算,这部分股份相当于每个美国家庭约 **320美元**。该提案旨在解决AI公司无偿利用人类劳动成果的问题,同时为可能因AI导致的劳动力市场崩溃提供安全网。然而,细节仍不明确。事实上,这一提议作为政治叙事可能比作为政策计划更有力。 ## 美国财政部的AI警告 一份泄露的美国财政部报告将AI市场与 **互联网泡沫** 相提并论,这与政府对AI的公开乐观态度形成对比。报告警告市场可能过度膨胀,而AI利润正掩盖财报中的更大风险。 ## 其他要闻 - **三星利润飙升**:得益于AI芯片销售,三星利润暴涨 **1800%**,连续第三个季度创纪录。但股价因AI热潮可能放缓的担忧而下跌。 - **网络安全局使用Mythos**:美国网络安全与基础设施安全局(CISA)正在使用Anthropic的模型Mythos审计政府代码,寻找漏洞。 - **伊利诺伊州签署AI法案**:州长签署了全美最严格的前沿AI法律,旨在保护公民免受AI风险。 - **Claude Code隐藏追踪器**:一个隐藏追踪器在Claude Code中被发现并移除,该追踪器曾秘密监控中国用户,引发隐私担忧。

MIT Tech3个月前原文

随着AI能力快速提升和智能体系统兴起,企业正在不断拓展AI应用场景。然而,持续的技术演进也带来了风险——IT领导者往往难以判断哪些投资在六个月后仍能创造价值。回归AI架构的底层逻辑,即构建可规模化部署、管理可靠且集成化AI系统的结构性框架,能帮助技术领导者做出明智的当下决策,同时为未来的AI智能体(能够检索信息、决策并跨系统执行复杂工作流)奠定基础。 ## 可倚仗的四大AI架构要素 无论底层技术如何演变,以下四大能力为生产级部署提供了稳定指南。 ### 1. 为规模化AI准备数据 模型的可靠性取决于其所能访问的数据质量。数据质量差会导致AI产生幻觉、偏见和不可靠的输出。多数企业受困于遗留系统、不一致的数据结构、碎片化的所有权和不完整的数据集,使得AI难以有效扩展。AI本身无法解决这些底层数据问题。正如Elastic CIO Adnan Adil所言:“数据是AI架构的持久组成部分,因为没有它,模型就无法运行,无法提供正确的上下文,也无法达到我们期望的服务水平。”行业调查一致将数据质量列为AI成功最大的障碍之一。Adil指出:“数据质量必须良好,否则用户会失去对系统的信心。”有效的AI策略始于跨组织连接数据,并确保数据实时地组织、准确、受治理且可访问。这些考量最好在模型和架构设计之初就融入其中。可扩展的数据架构使AI系统能够随业务同步演进,并可靠地连接交付有意义价值所需的内部信息。Gartner预测,到2026年,若缺乏AI就绪数据支持,企业将放弃60%的AI项目。避免这一结局的关键包括:明确的数据标准和所有权、干净且标记过的数据,以及支持实时检索的数据管道。 ### 2. 利用上下文工程为每次AI查询提供精准数据 上下文工程确保AI模型接收到与其任务高度相关的信息,从而减少幻觉并提高输出准确性。这涉及构建检索增强生成(RAG)系统、设计有效的提示模板,以及建立数据与模型之间的语义映射。通过精心设计上下文工程,企业可以显著提升AI在特定业务场景中的表现,例如客户服务、合规审查或知识管理。 ### 3. 构建安全且可治理的AI管道 随着AI系统深入核心业务流程,安全性与治理成为不可忽视的要素。企业需要建立模型访问控制、数据加密、审计日志和合规检查机制。同时,AI管道应支持可解释性,让利益相关者理解模型决策的依据。这不仅是技术需求,更是赢得用户信任和满足监管要求的必要条件。 ### 4. 设计可观测性与持续优化机制 AI系统在生产环境中运行时,必须能够监控其性能、检测漂移、识别异常并触发重训练。可观测性工具可以提供模型延迟、准确率、资源消耗等关键指标,帮助IT团队快速响应问题。持续优化则依赖于反馈循环——将用户交互结果和业务成果反馈至模型迭代中,形成闭环改进。 ## 小结 AI架构的四大要素——数据准备、上下文工程、安全治理与可观测性——构成了一组稳定的“北极星”,指引IT领导者在快速变化的技术浪潮中做出可持续的投资决策。无论未来AI模型如何演进,这些基础能力将始终是规模化AI成功的关键。

MIT Tech3个月前原文

美国加州乳业面临日益严格的环保法规,粪便污染成为亟待解决的难题。一家名为 **BioFiltro** 的智利公司带来了创新方案——**蚯蚓过滤(vermifiltration)**,利用蚯蚓和微生物处理奶牛粪便,大幅减少甲烷、氧化亚氮及水污染。第三代奶农 Anthony Agueda 的家族农场率先采用该技术,在占地相当于六个足球场的木屑与碎石生物滤床中,培育了数十万条红蚯蚓。这些蠕虫与微生物共同分解粪便有机物,将污染转化为肥料和水。Agueda 表示,相比其他高科技方案,蚯蚓过滤简单且成本较低,让农场成为环保解决方案的一部分。目前美国已有8座此类系统运行,另有16座在建或规划中,几乎全部位于加州。研究人员指出,仍需更多长期实地研究以评估不同方法的有效性及权衡。加州已投入超过十亿美元推动此类技术,乳业正从污染制造者转向绿色转型的参与者。 ### 从污染到解决方案 作为美国最大产奶州,加州乳业面临巨大环境压力。传统粪便管理方式——露天 lagoon 储存、土地施用——会释放大量温室气体并污染水源。蚯蚓过滤系统通过模拟自然湿地过程,让粪便流经蚯蚓和微生物活跃的滤床,有机物被快速分解,温室气体排放显著降低。Agueda 的农场每天处理数百头荷斯坦牛的粪便,系统运行稳定,成本可控。 ### 技术优势与挑战 蚯蚓过滤的主要优势在于 **低能耗、低维护**,无需大型厌氧消化器或复杂设备。然而,其长期效果、对不同气候条件的适应性仍需验证。研究人员强调,不同农场规模、地理位置和管理方式可能导致效果差异,需要更多实地数据。此外,BioFiltro 的专利技术虽已推广,但整体行业仍处于早期探索阶段。 ### 行业前景 随着加州环保法规持续收紧,类似蚯蚓过滤的 **生物处理方案** 正获得更多关注。政府补贴和科研投入加速了技术落地,但乳业仍需平衡成本、效率和可持续性。Agueda 表示,创新让奶农看到了希望:“我们正在成为解决方案的一部分。”

MIT Tech3个月前原文

通用型具身智能体需要理解多模态指令、预测环境变化并生成精准的长时间控制动作。现有方法通常专精于视觉-语言推理、视频世界建模或动作生成中的某一项,而先合成未来观测再推断动作的级联流程容易引入接口瓶颈和复合预测误差。 近日,科大讯飞研究团队在 arXiv 上发表了题为 **《iFLYTEK-Embodied-Omni Technical Report》** 的技术报告,提出了一种名为 **iFLYTEK-Embodied-Omni** 的统一多模态基础模型。该模型在单个全模态框架内联合建模视觉(视频和图像)、语言和动作,其视觉-语言、视频生成和动作生成三个模块通过共享的多模态自注意力机制进行通信。 ## 大脑-小脑协作架构 该设计构建了 **“大脑-小脑协作”** 机制: - **视觉-语言模型(VLM)和视频生成模型(VGM)** 充当高级“大脑”,负责指令理解、任务规划、进度跟踪以及未来视觉状态预测; - **动作生成模型(AGM)** 则作为低级“小脑”,直接将规划好的子目标和共享的多模态上下文转换为可执行的动作片段。 这种架构避免了传统级联方法中因先合成未来观测再推断动作而导致的错误累积,实现了感知、推理与执行的端到端协同。 ## 四阶段训练策略 为了开发这些能力,研究团队构建了包含**动作标注和未标注的具身视频**(来自人类演示和机器人交互)、**具身推理数据**、**具身感知数据**以及**通用图像-文本数据**的综合数据集。训练采用**四阶段渐进式策略**: 1. 预训练视觉-语言模型 2. 预训练视频生成模型 3. 预训练动作生成模型 4. 联合微调完整模型 这种分阶段训练方式有助于各模块先获得领域专长,再通过共享注意力进行协同优化。 ## 行业意义 iFLYTEK-Embodied-Omni 的提出标志着具身智能从“分而治之”的专用模型向“统一框架”迈出了重要一步。随着机器人、自动驾驶和智能家居等场景对通用智能体需求的增长,这种能够同时处理语言理解、环境预测和动作执行的统一模型,有望显著提升具身系统的泛化能力和鲁棒性。 目前该论文已在 arXiv 上公开,更多模型细节和实验性能有待后续披露。

Anthropic3个月前原文

在AI对齐与参与式设计领域,**局部成对比较**(local pairwise comparisons)是一种常用工具,用于学习人们希望决策规则如何运作。然而,一项来自arXiv的最新研究(论文ID: 2607.02672)揭示了该方法背后的两个关键假设可能因**内部多元主义**(internal pluralism)而失效。 ## 核心问题:当一个人“内心分裂”时 传统成对比较假设:1)局部比较足以反映个人对全局决策规则的偏好;2)人们总能给出明确答案。但研究者指出,个体内心可能同时持有多种有权威的优先级(priorities),例如**比例性、平等主义、公平对待**等。这些优先级具有**全局性**:它们在某个案例中的含义取决于其他案例的上下文,因此局部比较可能无法捕捉全貌。 ## 两种失败模式 论文通过形式化模型识别出两种典型失败: 1. **全局性优先级被忽略**:当优先级要求全局一致性时,局部比较会丢失关键信息。例如,一个偏好平等分配的人,在单独比较两个案例时可能表现出矛盾的选择。 2. **内部冲突导致的扭曲**:即使优先级可以局部表达,强烈冲突的优先级也会在强制比较时产生行为扭曲,例如被迫选择时出现不一致或压力下的非理性决策。 ## 允许“不确定”的力量 研究者进一步探索了替代方案——允许人们报告“无法决定”。模型表明,**允许不确定性能显著减少准确学习偏好所需的查询次数**。这启示我们:与其强迫用户做出非此即彼的选择,不如设计能直接询问其核心优先级的方法。 ## 对AI对齐的启示 该研究直指当前AI对齐实践中一个被忽视的痛点:**人类偏好并非单一、一致的函数,而是多面且可能相互冲突的**。传统的成对比较方法可能产生误导性的对齐信号。论文建议开发新的偏好学习方法,直接**eliciting priorities(引出优先级)**,从而获得更忠实、可解释的价值模型。 这一工作为参与式设计、AI伦理与价值对齐提供了理论框架,提醒从业者:**在追求“让AI符合人类偏好”之前,需要先理解“人类偏好”本身的复杂性**。

Anthropic3个月前原文

强化学习智能体在部分可观测环境下必须基于不完整信息做出决策,这使其天然适合从具备广泛推理先验的小型语言模型(SLM)中获取指导。然而,将SLM的指导融入此类设定一直困难重重——在所有测试环境中,传统的基于不确定性门控的方法的覆盖率(即SLM独立决策的比例)几乎为零。 最新发表于arXiv的论文《ASK in the Dark: Uncertainty-Gated LLM Assistance under Partial Observability》深入剖析了这一失败原因。研究者认为,问题并非出在模型能力不足,而在于上下文缺失:**裸自我中心的提示**(bare egocentric prompt)无法为SLM提供真正的推理所需的情境。为此,他们提出**ASK+**方法,为SLM提供轨迹感知上下文(包括部分揭示的地图、已访问位置和动作历史)以及结构化思维链推理,从而将SLM从被动的冗余检查转变为能偶尔纠正策略的“信息顾问”。 实验结果表明,ASK+在多个基准环境中取得了显著提升:在**DoorKey**任务中,成功率从PPO和原始ASK的89%提升至93%;在**FourRooms**任务中,成功率从53%跃升至70%;在**HigherLower**任务中,准确率达到73.7%,与仅使用SLM的上限持平。值得注意的是,在所有环境中,**Qwen3.5-2B**的表现均达到或超过了规模更大的**Qwen3.5-4B**,这充分说明提示设计和选择性门控对模型规模的影响更为关键,从而无需依赖大模型即可实现有效指导。 此外,研究还澄清了一个关键理论问题:用于选择性查询的预测熵信号衡量的是动作不确定性而非状态不确定性,并且在部分可观测马尔可夫决策过程(POMDP)中依然保持信息量,这使得不确定性门控辅助能够适用于完全可观测设定之外的更广泛场景。 该工作已被**IJCAI-ECAI联合研讨会**接收,为在部分可观测环境中高效利用小型语言模型提供了新的思路——通过精心设计的上下文提示和不确定性门控机制,小模型也能成为强化学习智能体在“黑暗中”的可靠向导。

Anthropic3个月前原文

领导力计算设施管理着大规模科学数据集,这些数据在用作AI训练数据之前通常需要大量转换。然而,现有框架未能完全统一自动化转换、就绪评估、来源追踪和智能体原生部署。我们提出REDI,一个开源框架,通过统一的五阶段流水线(摄取、预处理、转换、结构化和输出)来解决这一缺口,每个阶段都具备可重复性仪器化,并可部署为智能体可调用的技能;配套工具SetGo自动化FAIR合规和目录发布。在气候、蛋白质组学、材料科学和核聚变领域评估中,REDI将所有数据集从原始状态转换为AI就绪状态,输出经过领域专家参考验证,初步结果显示在Frontier超级计算机上气候用例实现了近理想的并行扩展至100个节点。来源追踪的性能分析揭示文件I/O是流水线的主要成本,格式选择是关键优化杠杆。这些结果确立了REDI作为跨领域平台,为科学AI提供自动化数据就绪,将数据准备瓶颈转化为可重复、可重用的社区资产。

Anthropic3个月前原文

大型语言模型(LLM)智能体可以通过积累经验来提升性能,但传统的自由文本记忆随着交互增长而变得难以维护、验证和复用。近期符号化方法尝试学习可执行技能或程序化世界模型,但往往局限于局部过程或假设简化的动态环境。针对这一挑战,来自研究者提出了一种名为**对象中心环境建模(OCM)**的新框架,将经验组织为可执行的对象中心环境模型,为智能体提供更结构化的记忆与推理基础。 ## OCM的核心机制 OCM维护两个相互关联的代码库: - **对象知识**:将环境实体和机制定义为Python类,形成对世界的结构化描述。 - **过程知识**:记录可复用的交互模式,这些模式必须导入并使用对象模型。 在在线设置中,每个回合结束后,OCM会反思轨迹,更新两个知识库,并验证所有过程能否在更新后的对象模型上成功执行。未来交互时,智能体采用**渐进式知识披露**策略:先检查紧凑的代码签名,仅在需要时才阅读完整源代码,从而平衡效率与信息深度。 ## 实验表现与意义 实验结果表明,OCM在多个基准测试中取得了**最佳平均排名**,并显著减少了无效动作。这证明了智能体能够通过构建对象中心环境模型受益,不仅提升了任务完成效率,还增强了行为的可解释性和可迁移性。 OCM的提出为LLM智能体的长期记忆与技能学习提供了新的思路。与传统符号方法相比,它强调对环境的**对象级抽象**,使模型能够更灵活地适应复杂动态场景,同时保持代码的可执行性和验证性。未来,该框架有望在机器人操作、游戏AI和虚拟助手等需要持续交互的领域发挥重要作用。

Anthropic3个月前原文

大型语言模型在医学计算领域的应用正面临新的挑战。现有基准测试多基于简化场景,每个病例仅对应单一计算器,且查询中明确指定所需工具。然而,真实临床环境往往需要多个计算器联合评估、嵌套尺度计算,以及不直接指明目标计算器的模糊查询。针对这一痛点,研究团队提出了 **MedCalc-Pro**——一个全新的医学计算基准测试,涵盖三种难度递增的任务设置:单计算器、多计算器和嵌套计算器。该基准包含 **2,268** 个真实临床案例,覆盖 **14** 个临床科室的 **77** 个医学计算器。 为了应对复杂临床场景下现有框架和方法的性能局限,研究团队进一步提出了一种更具泛化能力的智能体框架。该框架支持多工具选择和嵌套工具调用,并通过结构化验证和证据审查抑制参数错误传播。研究者在开源、闭源及医学专用的大型语言模型上进行了系统对比,结果显示,所提出的框架在所有三种任务设置中均取得了最佳性能。 这项工作为评估和将LLM应用于具有挑战性的医学计算场景提供了新的基准和方法。

Anthropic3个月前原文