在机器学习的主流范式里，"标准答案"（ground truth）通常被当作唯一且确定的。标注者之间的分歧往往被多数投票聚合掉，或者直接归为噪声丢弃。但一篇被 **NeurIPS 2026 Trustworthy AI for Good Workshop** 接收的立场论文提出了不同看法：对于大量以人为本的任务，人类理解本身就是模糊的，同一输入存在多个同时合理的解读。把这种模糊性压缩成单一目标，等于丢掉了关于人类感知、判断与经验多样性的关键信息。 ## 被"聚合"掉的人类分歧 论文 *Whose Ground Truth? Embracing Ambiguity in Human-Centered AI* 由 **Jingyao Wu、Mohammad Tariqul Islam、Per Rådberg Nagbøl、Julie Gerlings、Giovanni Leoni、Georgiana Fryza、Lars Pilegaard Thomsen、Jakob Mainz** 等八位作者合作完成，发布于 arXiv（编号 2610.10805）。 作者指出，传统 AI 系统大多建立在"存在一个确定的标准答案"这一假设之上。当不同标注者给出不同标签时，常见做法是**聚合**（如多数投票）或将其视为**噪声**处理。这套流程在图像分类等任务上行之有效，但一旦任务涉及人的主观体验——比如情绪识别、内容审核、医疗判断、教育评价——分歧本身可能恰恰是有价值的信息，而非需要消除的误差。 ## 从"唯一答案"到"解读空间" 论文的核心主张是：应当转向**对合理解读空间的建模**，而不是追求单一目标值。换句话说，模型要学习的不是"这个人到底在想什么"，而是"哪些人类判断是合理的，以及它们的分布是怎样的"。 这里有一个关键的区分：作者强调必须把**有意义的模糊性**与**标注噪声**分开。前者反映真实的人类多样性，后者源于标注错误或流程缺陷。混为一谈会导致两种失败——要么把有价值的多样性当噪声抹掉，要么把真正的错误当作合理的多元解读而保留下来。 ## 影响的不只是建模 论文将这一视角贯穿到 AI 系统的多个环节： - **表示（represented）**：模型输出应能承载多种可能解读，而非强行收敛到一点 - **学习（learned）**：训练目标需适配分布式的、多峰的标签结构 - **评估（evaluated）**：评价指标要能衡量对合理判断空间的覆盖，而非仅看与单一答案的吻合度 - **部署（deployed）**：系统在真实场景中应如何呈现和传递不确定性 - **治理（governed）**：当多个解读都合理时，责任归属与决策依据如何界定 ## 为什么现在值得关注 随着 AI 系统越来越多地与人交互、并对人做出决策，"谁的标准答案"这个问题不再是学术细节。情绪识别系统把某人的表情判为"愤怒"，内容平台判定某条发言是否"有害"，招聘工具评估候选人是否"匹配"——这些任务中的判断往往高度依赖语境和个体差异。 如果训练数据里少数标注者的真实感受被多数投票淹没，系统学到的可能是一种被平均化的、并不代表任何具体人群的"共识"。论文认为，承认并建模这种模糊性，是构建更以人为本的 AI 的必要一步。 需要说明的是，这是一篇**立场论文**（position paper），重点在于提出研究议程与方向，而非给出完整的实证方案。它更像是一份呼吁：在追求性能指标之外，AI 社区需要重新审视那个被默认接受的假设——标准答案只有一个。
## 一篇论文，两个结论 arXiv 上最新提交的一篇机器学习论文（arXiv:2610.10552）提出了一个在工程上颇为实用的结论：在做基于 SVD 的 **KV-Cache 低秩压缩**时，微调阶段只训练编码器、冻结解码器，可以在保持精度的同时把可训练参数量和优化器状态内存都降到原来的约三分之一。但论文更有价值的部分，或许是它对一种常见实验方法论的纠偏。 ## 被忽视的"共享学习率"陷阱 作者 Yufeng Wang 指出的问题很具体：在对比不同**参数高效微调（PEFT）**方案时，很多研究给所有实验组使用同一个学习率。当各组可训练参数量差异很大时，这个做法会系统性地扭曲结果——参数量大的组平均表现被压低、方差被抬高，于是参数量最小的那一组看起来获得了"跨多个随机种子都显著"的优势，而这个优势实际上并不存在。 论文把这一混淆效应放在具体场景中做了验证，也就是**事后 SVD 的 KV-Cache 压缩**：把一个已经预训练好的模型，通过将 key/value 权重分解为下投影（编码器）和上投影（解码器），转换成低秩的、类似多头潜在注意力（MLA）风格的缓存结构，然后再做一次短微调（论文中称为"healing"）来弥补截断带来的精度损失。 ## 结论在调参后反转 在共享学习率下，"冻结解码器、只治编码器"看起来明显优于"治解码器"或"两者都治"。然而，一旦给每个实验组各自调好学习率，这个表面优势就消失了：只治编码器与其他方案达到**持平**，同时带来实测的 **3 倍更少可训练参数**和 **3 倍更少优化器状态内存**。 作者在视觉语言模型 **Qwen2.5-VL-3B-Instruct** 上，针对该协议覆盖的一个压缩比，用逐组学习率调优和每种配置三个随机种子验证了这一持平关系，并在一个纯文本测试平台上跨两个骨干模型做了复现。 ## 为什么值得关注 KV-Cache 是长上下文推理的主要显存瓶颈之一，低秩压缩是当前较受关注的方向。这篇论文的贡献有两层： - **工程层面**：只治编码器是一个更低内存的"即插即用"方案，适合在训练阶段改造模型以支持低秩 KV-Cache 压缩。 - **方法论层面**：论文明确将其定位为一个警示性结果——只要被比较的微调方案在可训练参数量上存在差异，共享学习率就可能制造假优势。 需要说明的是，论文目前为预印本、处于同行评审阶段，结论覆盖的压缩比有限，实际部署效果仍需在更多模型与压缩配置上进一步检验。
## 当脑电遇上基础模型，难点究竟在哪？ **脑电图（EEG）**是一种非侵入式的神经活动测量手段，在临床诊断、认知研究与脑机接口（BCI）中应用广泛。但与图像、文本不同，构建通用的 EEG 基础模型一直困难重重——受试者个体差异、采集设备不同、电极导联布局（montage）各异，使得数据分布高度碎片化。 更关键的是，现有 EEG 基础模型大多依赖**对观测信号的重建目标**。然而观测信号中既包含真正的神经成分，也混杂着眼动、肌电、工频干扰等非神经成分。让模型去重建全部信号，等于强迫它把噪声也一并学进去。 ## SPERA 的解法：在潜空间里做预测 发表于 **NeurIPS 2026** 的论文提出了 **SPERA（Spherical Prior EEG Representation Architecture）**，其核心思路借鉴了 **JEPA（联合嵌入预测架构）**——不再重建原始信号，而是在**潜空间（latent space）**中进行预测。这一转变让模型聚焦于可预测的、结构化的神经表征，而非逐点拟合含噪波形。 为适配 EEG 的独特性质，SPERA 引入了三项关键设计： - **Legendre 多项式空间先验**：将电极在头皮上的几何分布编码进注意力机制，使模型能够处理不同导联布局，而非假设固定的电极阵列。 - **因式分解的时空注意力**：时间与空间注意力交替堆叠，并周期性插入全注意力块，兼顾计算效率与全局建模能力。 - **关系型频谱正则项**：约束潜空间的相似性结构与频谱视图保持一致，让表征在频域上也有意义。 ## 8万小时预训练，九项任务全面领先 SPERA 的预训练规模相当可观：约 **80,000 小时**的 EEG 数据，来自 **29,048 名受试者**、覆盖 **106 个数据集**。在涵盖临床、认知与 BCI 的**九项下游任务**上，SPERA 取得了最高的平均平衡准确率。 值得注意的是，论文报告了其在**线性探测（linear probing）**下出色的参数效率，以及在多种记录条件下的稳健性。这意味着模型学到的表征具有良好的迁移能力，无需大量微调即可适配新任务。 ## 为什么这件事重要 EEG 领域长期缺乏类似 NLP 或视觉领域的通用骨干网络。SPERA 的价值不仅在于性能数字，更在于它验证了一条路径：**用潜空间预测替代信号重建，用几何先验处理异构电极布局**。如果这类模型能够持续泛化，未来或可成为跨设备、跨人群的通用 EEG 分析底座，降低每个新应用场景的建模成本。 当然，从论文到临床与消费级 BCI 的落地仍有距离，数据偏倚、实时推理开销等问题尚待检验。但作为 NeurIPS 2026 的接收工作，SPERA 为 EEG 基础模型提供了一个值得关注的新范式。
## 关键结论 训练一个用于监控大语言模型的**激活探针**（activation probe），到底需要多少合成对话？一项新研究给出了反直觉的答案：**决定样本需求量的不是概念的难度，而是覆盖度**。 这项题为《Coverage, Not Difficulty, Sets How Much Synthetic Data an Activation Probe Needs》的论文，系统追踪了三种监控概念的学习曲线： - **高风险情境**（high-stakes） - **对他人有害的回复**（harmful） - **不遵循用户指令的回复**（instruction） 实验覆盖 **10 到 590 个合成样本**、**14 个留出评估分布**、**4 种探针模型**，并变化了生成器 LLM 和提示词的详细程度。 ## 不同概念，需求差距巨大 在 **Gemma-3-27B-IT** 上，高风险和有害概念的探针从 **80 个样本**起就接近平台期，误差仅在百分之几以内。但指令遵循探针需要**数倍于前者**的样本量才能达到类似水平。这一排序在三个更小的探针模型以及真实样本（来自 dev 集）上同样成立。 ## 覆盖度，而非难度 研究者将“概念需要的深度”定义为拟合曲线的**半增益规模**（half-gain size）——即获得一半增益所需的样本数。 统计分析显示： - **概念和分布**解释了半增益规模方差的 **42–45%** - **生成器、探针模型和提示词细节**加起来不到 **10%** 更关键的是，每个评估分布对应一种“类型”，其**自身类型样本的中位半增益规模仅为 7–11 个**——在三种概念下几乎一致。 真正造成差异的是：**一种类型的样本向其他类型迁移的能力**。 - 高风险情境下，迁移几乎完全 - 有害概念次之 - 指令遵循最差 这解释了为何指令探针需要更多样本：**没有一种类型能覆盖另一种**。 ## 对实践的启示 此前的工作建议将生成预算花在**广度**（更多种类的数据）而非深度（每种数据更多样本）上。这项研究进一步指出：**广度的回报因概念而异**。 - 对于**指令遵循**，多种类型是必要的，因为彼此不覆盖 - 对于**高风险情境**，多种类型几乎是冗余的，一种就能覆盖其余 研究者同时发布了评估套件、开发集和生成集，为后续探针训练提供了可复现的基准。
现代汽车内部署着大量电子控制单元（ECU），它们通过 **CAN 总线**持续交换信息。由于通信频率高、结构固定且重复性强，任何时序偏差、载荷数值变化或消息模式异常，都可能暗示着故障、误操作甚至恶意干扰。然而，这些异常往往极其隐蔽，传统方法——无论是逐条独立处理消息，还是依赖人工规则——都难以有效识别。 针对这一痛点，一篇新发表的 arXiv 论文提出了一种**隐私保护**的车载网络异常检测框架，其核心是**时间 Transformer CAN 编码器**与**联邦轻量级头部**的结合。 ### 技术方案：时序建模 + 联邦学习 该框架包含两个关键组件： - **轻量级 Transformer 编码器**：负责学习 CAN 消息随时间的演变规律，从而捕捉微妙的时序与上下文异常。相比传统方法，它能更好地理解消息序列中的长期依赖关系。 - **联邦学习机制**：允许多辆汽车或 ECU 协同训练一个共享模型，而无需交换原始 CAN 数据。这意味着各参与方仅共享模型更新，而非敏感数据，从根本上保护了隐私。 论文作者指出，这种“时序序列建模 + 联邦学习”的组合，在开源数据集上实现了稳健的异常检测性能，同时兼顾了效率与隐私。 ### 为什么值得关注？ 随着智能网联汽车的普及，车载网络安全已成为行业焦点。CAN 总线作为事实标准，其广播式通信缺乏加密和认证，极易成为攻击入口。传统入侵检测系统要么计算开销大，要么需要集中收集数据，难以兼顾实时性与隐私合规。 这项工作将 Transformer 的时序建模能力与联邦学习的分布式协作优势引入车载安全领域，为未来智能汽车的大规模协同防御提供了新思路。尤其在欧洲 ITS 大会 2025 上展示后，其应用前景更受期待。 ### 局限与展望 目前实验基于开源数据集，实际部署中的通信开销、异构车辆间的模型聚合效率等问题仍需进一步验证。但无论如何，这项研究为车载异常检测开辟了一条兼顾性能与隐私的可行路径。
## 一个被忽视的隐私面 **混合专家（MoE）** 架构如今是大模型扩展的主流路线之一，但一篇新论文指出，MoE 在推理时产生的**路由信息（router telemetry）** 可能成为一个额外的隐私泄露渠道。 这篇题为《When Routing Reveals Membership: Privacy Leakage from MoE Router Telemetry》的论文（arXiv:2610.10616）由 Yixin Tan、Jiayang Liu、Lu Sun、Yuke Hu、Zheng Li、Rui Wen 等人完成。研究提出的核心问题是：**路由器遥测能否揭示某个样本是否被用于微调目标模型？** ## 攻击方法与关键结果 作者设计了**路由器增强的成员推断攻击（router-augmented membership inference attack）**： - 将传统的**输出侧信号**与**聚合后的路由特征**结合； - 使用在独立微调的**影子模型（shadow models）** 上训练出的成员分类器，迁移到目标模型上。 在 **3 种 MoE 架构 × 3 个数据域** 共 9 个设置中，路由器遥测相比仅使用强输出信号集成，**一致地提升了成员推断效果**——在 1% 假阳性率（FPR）下，真阳性率（TPR）提升 **2.7 至 9.4 个百分点**。 更值得关注的是泄露的普遍性： - 无论**全量微调、冻结路由器训练、LoRA 还是指令微调**，泄露都持续存在； - 仅凭**离散的专家选择**、受限的遥测数据，甚至**单个影子模型**，泄露仍可被观测到。 ## 机制解释：不是路由器记住了数据 论文的机制分析给出了一个反直觉的结论：泄露**并不依赖路由器本身的记忆**。微调会把成员信息注入**隐藏表示**中，而路由器即使参数被冻结，也会暴露这一信号的某种**投影**。只有当遥测保真度下降时，这种额外泄露才会随之减弱。 ## 行业启示 对部署 MoE 模型的团队而言，路由日志常被用于监控、调试、负载分析和安全审计，属于常规运维数据。这项研究提示：**这些运维信号可能把内部计算视图转化为新的隐私攻击面**。在模型微调越来越普遍、数据合规要求日趋严格的背景下，遥测数据的采集范围、访问权限与脱敏策略，或许需要被重新评估。 需要注意的是，这是一篇预印本论文，结论仍待同行评审与更广泛复现验证。
## 封闭系统里，秩序能否自发涌现？ 长期以来，物理学和复杂系统研究有一个默认前提：**封闭系统若没有外部能量输入、温度淬火或缓慢驱动，很难自发形成动态有序结构**。但一篇新论文提出了不同的机制——**约束诱导的自组织**。 这篇题为《Self-Organization from Constrained Geometric Radiation》的研究（arXiv:2610.10621）由 Ming Lei 完成，探讨了在耦合度规演化系统中，几何辐射如何驱动封闭系统走向有序。 ## 四阶段循环与“楔形吸引子” 模拟结果显示了一个**普适的四阶段循环**： 1. **应力积累**——系统内部张力逐步累积； 2. **超指数辐射**——能量以远超指数速度释放； 3. **混沌崩溃**——系统进入混沌状态； 4. **收敛到分形极限环**——最终稳定在一个具有分形微涨落的极限环上。 作者将这种新型吸引子拓扑称为**楔形吸引子**，它包含**五个量子化曲率状态**和分形微涨落。这意味着系统并没有走向热寂，而是进入一种持续振荡、具有精细结构的动态秩序。 ## 四个充分条件 论文识别出触发这一循环的四个联合充分条件： - 不可逆的几何视界； - 来自量子相干的持续应力注入； - 不相容曲率之间的内源性几何张力； - 有效涨落。 当这些条件同时满足时，会在视界边界引发**临界雪崩**，从而启动整个循环。 ## 三个定理与一个核心结论 作者证明了三个定理： - **几何视界定理**； - **几何能量耗散定理**——该定理暗示封闭系统中的熵演化可以呈波状，而非单调增加； - **辐射作为相变通道定理**。 在此基础上，论文进一步建立了**约束诱导自组织定理**：上述条件以概率 1 保证完整循环的发生。 系统扫描还揭示了**临界噪声阈值**和辐射起始的**幂律标度**。作者在 **12 种配置、多种噪声类型和三种几何流**中验证了该机制的普适性。 ## 为什么值得关注 这项工作在经典非线性约束与引力视界之间建立了一种**精确的数学对偶**。它挑战了“封闭系统必然走向无序”的直觉，为自组织理论提供了一个新范式。 对于机器学习与复杂系统领域而言，这种机制可能启发新的生成模型或优化动力学设计——尤其是当系统需要在没有外部奖励信号的情况下维持结构化行为时。不过，论文目前仍以数值模拟和理论证明为主，实际物理实现或工程落地尚待进一步探索。
## 当模型学会「自己教自己」 循环语言模型（**Looped Language Models, LoopLMs**）的思路颇具吸引力：不靠堆参数，而是让同一套参数在多个循环计算步骤中被反复复用，用「算得更久」来换取更强的推理能力。这是一种参数效率极高的扩展路径。 但问题也随之而来——**这类模型的后训练（post-training）一直不好做**。现有方案大致两条路：要么用奖励信号做监督，但信号稀疏，且要扩展到多个循环层代价高昂；要么依赖外部教师模型或特权信息，可教师资源有限，还容易出现「师生上下文不匹配」的尴尬。 来自 arXiv 的这篇论文（arXiv:2610.10623，提交于 2026 年 10 月 7 日）提出了一个颇具巧思的解法：**让模型自己的循环计算充当监督来源**。 ## LoopOPD：把「最后一圈」变成老师 论文提出的 **LoopOPD** 是一个跨循环的在线策略蒸馏框架（cross-loop on-policy distillation）。核心机制可以这样理解： - 把一个**冻结的终端循环策略**当作「计算特权教师」，它的优势在于拥有更多的循环计算量； - 让一个**中间循环的「学生」**在自身生成的 rollout 上接受蒸馏监督； - 这样就获得了**密集的监督信号**，而且既不需要外部教师，也不需要特权信息。 这相当于把「多想几轮」的能力，蒸馏回「少想几轮」的层级——监督信号来自模型内部的计算深度差异，而非外部标注。 ## D-LoopOPD：让老师也跟着进化 静态的教师总有天花板。作者进一步提出 **Dynamic LoopOPD（D-LoopOPD）**：随着共享模型参数不断更新，终端循环教师也会被持续刷新。这样一来，模型就进入了**循环式自我改进**的状态——学生进步，老师同步升级，再教出更强的学生。 论文还刻画了蒸馏更新如何在不同循环深度之间传播，并推导出「单次更新即可在两个循环深度上同时实现局部改进」的充分条件。这部分理论分析，为方法的有效性提供了机制层面的解释。 ## 实验结果与意义 在 **Ouro-Thinking** 模型上的实验显示： - LoopOPD 提升了数学推理能力； - D-LoopOPD 通过动态教师更新带来进一步增益； - 值得注意的是，模型**仅在数学数据上训练**，却在通用推理和代码生成基准上也取得了提升——说明这种循环计算监督具有跨任务的迁移性。 论文共 28 页、8 张图，已投稿至 **ICLR 2027**，代码与模型检查点将在接收后放出。 ## 为什么值得关注 这项工作的价值在于，它把「计算量」本身变成了一种可蒸馏的监督资源。在外部教师昂贵、奖励信号稀疏的现实约束下，**让模型用更深的自循环去指导更浅的自循环**，为 LoopLM 的后训练打开了一条不依赖外部资源的新路。对于追求参数效率与推理能力平衡的研究方向而言，这或许是一个值得跟进的技术信号。
## 当物理定律遇上旋转：神经代理模型的“坐标系依赖”困境 在科学机器学习领域，用神经网络代理求解偏微分方程（PDE）已成为热门方向。然而，一个长期被忽视的问题正浮出水面：**许多模型在训练数据上表现优异，但当同一物理状态被旋转到不同坐标系下表达时，预测结果却会发生变化**。这种“坐标系依赖”不仅违背物理直觉，也限制了模型在真实场景中的可靠性。 近日，arXiv 上的一篇论文《Exact SO(3)-Equivariant Isotropic Kernels for Rotation-Robust Neural Dynamics》针对三维 Navier-Stokes 动力学中的这一问题提出了解决方案。作者 Ridham Patel 指出，当观测点不规则分布时，传统图神经网络代理模型难以保持旋转不变性。即使通过随机旋转样本进行数据增强，也只能**减少而不能消除**坐标依赖性。 ### 核心方法：不变条件各向同性核神经算子（IKNO） 论文提出了一种紧凑的图模型——**Invariant-Conditioned Isotropic Kernel Neural Operator (IKNO)**。其核心思想是： - 局部交互的构建仅基于**旋转不变的标量**（如距离、速度模长等）和**随数据旋转的向量方向**； - 因此，当输入的位置和速度被旋转时，预测的速度变化会以完全相同的方式旋转，从而严格满足 SO(3) 等变性。 这种设计使得模型在数值精度上保持一致，同时避免了坐标依赖。 ### 实验结果：精度与效率兼得 在模型设计后固定的留出测试集上，作者对比了多种方法： - **无约束图模型**：即使使用随机旋转增强，仍无法彻底消除坐标依赖； - **IKNO**：在数值精度内保持一致，预测精度与通用的旋转感知张量场网络（Tensor Field Network）相当，但参数量仅为后者的 **1/5.6**； - **参数匹配的图模拟器**：IKNO 性能更优。 这些结果表明，**针对 PDE 专门设计的紧凑模型可以在不牺牲预测精度的前提下，消除坐标依赖性**。 ### 行业意义：物理先验与神经网络的深度融合 该工作已被 **NeurIPS 2026 Workshop NeurReps** 接收。它传递出一个清晰信号：在科学计算中，将对称性等物理先验嵌入神经网络架构，不仅能提升泛化能力，还能大幅降低参数量。对于气候建模、流体仿真、分子动力学等领域，这种“物理感知”的代理模型有望成为更可靠、更高效的替代方案。 未来，如何将此类等变核推广到更复杂的 PDE 系统（如多物理场耦合、不规则边界条件）值得进一步探索。
## 当AI开始设计病毒：一场圆桌对话的预告 你能想象吗？AI不仅能写诗作画，还能设计出全新的生命形式。2025年，斯坦福大学博士生 **Samuel King** 利用生成式AI模型，提出了微观病毒的遗传蓝图。这虽然不是AI创造生命的直接证据，但距离那一步或许已经不远了。 MIT Technology Review 将举办一场线上圆桌对话，由资深AI记者 **James O'Donnell** 主持，邀请 Samuel King 分享他的开创性工作。King 因这项研究入选了 MIT Technology Review 的 **“35岁以下创新者”** 榜单。对话将于 **2026年10月16日** 举行，具体时间为： - 英国夏令时 18:30 - 美国东部时间 13:30 - 美国太平洋时间 10:30 ### 为什么这件事值得关注？ AI设计病毒听起来像是科幻小说的情节，但它正在成为现实。King 的工作展示了生成式AI在生物工程领域的潜力：它能够提出人类可能想不到的基因序列，从而加速新药、新疗法甚至新材料的开发。然而，这也引发了深刻的伦理和安全问题——我们是否应该让AI设计生命？如何防止滥用？ 值得注意的是，AI设计病毒并不等同于AI创造生命。病毒本身并非完整的生命体，它们需要宿主才能复制。但正如 MIT Technology Review 在相关报道中指出的，这可能是通向AI生成生命的第一步。 ### 相关背景 MIT Technology Review 此前报道过：“他让AI设计病毒……而且成功了”以及“AI设计的病毒已经问世，并且正在杀死细菌”。这些进展表明，AI在生物学中的应用正从理论走向实践。 与此同时，AI领域本身也在经历反思。例如，有观点认为，大语言模型并不真正具备推理能力；AI的递归自我改进可能不会那么快到来；AI智能体还不足以进行真正创新的开放式研究。这些讨论提醒我们，在欢呼AI设计病毒的同时，也要保持审慎。 ### 如何参与？ 这场圆桌对话面向 MIT Technology Review 订阅者开放。如果你对AI与生物学的交叉领域感兴趣，不妨注册参加，听听 King 和 O'Donnell 的深入交流。 （本文基于 MIT Technology Review 的活动预告及相关报道编写，具体技术细节以活动内容为准。）
## OpenAI 的数学宣言与数学家的怒火 昨天，OpenAI 发布了一项关于集合论的声明：**Partition Principle 不蕴含 Axiom of Choice**。消息迅速在数学圈和 Hacker News 上引发热议，相关讨论获得 **190 分**和 **285 条评论**。 然而，并非所有人都为此欢呼。一位长期研究该问题的数学家公开表达了他的愤怒——甚至拒绝了此前承诺的“如果问题被解决就送 Sam Altman 一瓶威士忌”的赌约。 ### 为什么数学家不买账？ 这位数学家在博客中写道，他“并非完全反对使用 AI”，也承认 LLM 在整理信息、生成图表、校对邮件等任务上很有用。但他强调，**目前数学界缺乏使用 AI 的框架**：如何判断作者的贡献？是否要求公开聊天记录？审稿人和编辑是否有权查看？这些问题尚未解决。 他仔细阅读了 OpenAI 发布的预印本（未看 Lean 代码，因为代码量巨大且他不熟悉 Lean 的实际使用），结论是：**“它很糟糕。”** - 论文结构混乱、表述不清 - 术语“有点偏”，一些定理的陈述方式非常奇怪 - **Lemma 7.4** 和 **Lemma 8.1** 出现在这样的论文中令人意外 - 参考文献选择不当：他关于 Bristol model 的论文被引用于对称扩张的基础介绍，但这并非他会选择的引用 - 至少三篇未发表、未经同行评审的文献被引用 ### 更深层的争议 这并非 OpenAI 第一次涉足数学证明。此前已有 AI 系统在数学竞赛和定理证明中取得进展，但学术界对“AI 生成的数学证明”始终存在分歧。核心矛盾在于：**数学证明的价值不仅在于结论正确，更在于证明过程的可理解性、可验证性以及它对后续研究的启发**。 如果一份预印本结构混乱、引用随意，即使结论正确，它是否算作“数学贡献”？如果 AI 只是生成了大量 Lean 代码，而人类无法理解其思路，这究竟是突破还是噪音？ 这位数学家呼吁社区认真讨论：我们是否需要要求公开 AI 聊天日志？审稿人是否应该看到提示词？arXiv 已经引入速率限制，许多论文也开始包含 AI 使用声明。但更根本的问题——**如何评判 AI 辅助数学工作的学术价值**——仍然悬而未决。 OpenAI 的这次发布，或许更像一面镜子，照出了 AI 与数学界之间尚未弥合的裂痕。
Anthropic 正在把安全能力直接送到开源社区门口。该公司推出了一项名为 **OSS Scanner** 的新服务，允许开源项目免费接入，由 Anthropic 的“最强模型”定期执行安全扫描并生成漏洞报告。 ## 免费、定期，但全由模型生成 根据 Anthropic 的说法，选择加入的开源项目将获得“由我们最强模型进行的彻底、定期的安全扫描，完全免费”。报告由包括 **Claude Mythos** 在内的模型生成，目标是让开源项目获得尽可能大的防御优势。 不过，这项服务有一个明确的取舍：**报告完全由模型生成，没有人工审核或分类**。Anthropic 表示，这样做是为了实现更快、更频繁的扫描，但也意味着报告可能出错或无效。 换句话说，OSS Scanner 更像是一个高频预警系统，而不是经过人工确认的漏洞公告。项目维护者需要自行判断哪些告警值得跟进。 ## 时机微妙：AI 找漏洞，也制造漏洞报告洪流 OSS Scanner 并非市场上第一个 AI 漏洞猎手。近几个月，AI 工具已经帮助发现了开源软件中的一些重大安全漏洞，例如 **5 月影响几乎所有 Linux 发行版的“Copy Fail”漏洞**。 但硬币的另一面同样明显。AI 生成的低质量漏洞报告正在让开源维护者不堪重负。**Linus Torvalds 和 Google 都曾公开表示**，项目方很难跟上突然涌入的 AI 生成 bug 报告。对资源本就有限的开源项目来说，一个“只报不筛”的扫描器，既可能是帮手，也可能变成新的噪音源。 ## 开源安全的 AI 化，走到哪一步了？ Anthropic 此举反映出 AI 公司正在把安全能力产品化，并试图以免费服务切入开源生态。对开源项目而言，这确实降低了获得定期安全扫描的门槛；但“无人工审核”的定位，也把验证成本转移给了维护者。 如果 OSS Scanner 的误报率可控，它可能成为开源安全工具箱中的常规选项；如果报告质量参差，它也可能加剧开源社区已经存在的“AI 报告疲劳”。目前，Anthropic 尚未公布扫描频率、覆盖范围或误报率等具体指标，实际效果仍有待观察。
## 马斯克的“暗钱”流向何处？ 在最新一期的 WIRED 播客 **Uncanny Valley** 中，主持人 Zoë Schiffer 和 Leah Feiger 深入剖析了埃隆·马斯克的 **America PAC** 在 2026 年中期选举中的资金运作。据 WIRED 追踪数据显示，该政治行动委员会已将数百万美元投入最关键的参议院选战，但**大部分资金并非用于支持共和党候选人，而是集中火力反对民主党对手**。这种“负面竞选”策略，正成为马斯克影响中期选举的核心手段。 ## 从有效利他主义到“危险意识形态” 节目还聚焦了一个曾局限于哲学圈的思潮——**有效利他主义（Effective Altruism, EA）**。如今，它已站上 AI 安全辩论的风口浪尖。然而，特朗普政府近期公开将其称为“危险意识形态”，这一标签化的背后，折射出 AI 治理话语权争夺的激化。EA 主张“用证据和推理最大化善行”，其拥趸曾深刻影响 OpenAI 等机构的安全文化，但批评者认为它助长了技术精英的傲慢。 ## Meta AI 标志设计师遭网暴 另一个引发热议的话题，是 Meta 为其 AI 助手 **Muse** 启用新标志后，设计师遭遇的网络暴力。这场针对个人创作者的围攻，再次暴露了 AI 领域日益极化的舆论生态——从模型能力到品牌视觉，任何细节都可能点燃敌意。 ## 为什么这些故事值得关注？ 这三条线索看似独立，实则交织：**金钱政治**塑造 AI 监管环境，**意识形态之争**决定安全研究走向，而**网络暴力**则压制创新表达。在 AI 技术加速渗透权力结构的当下，理解这些动态，就是理解未来数年科技与政治博弈的底色。 > 本期播客还入围了 Signal Awards 三项提名，听众可通过节目笔记链接参与投票。
## 一个“数字考古”项目 如果你曾对 **Theranos** 创始人伊丽莎白·霍姆斯的崛起与陨落感到好奇，现在有一个网站能让你身临其境地“翻看”她的办公桌。Extend 公司工程师 **Bo Lau** 利用 **美国诉伊丽莎白·霍姆斯案** 中公开的 **超过一千份** 邮件、幻灯片、短信和文件，创建了一个模拟网站，让你仿佛回到 2016 年，坐在霍姆斯的椅子上。 这个网站细节惊人：iPhone 还有 home 键，需要滑动解锁；MacBook Air 运行着 **OS X El Capitan**。你可以点击屏幕上的图标，浏览从霍姆斯手机和笔记本电脑中提取的法庭文件，甚至还能“运行” **Theranos Edison 机器**——那个声称能从一滴血中提取大量健康数据的设备。 ## 不只是为了好玩 虽然项目看起来主要是为了博君一笑，但它确实提供了一种比在法院网站上翻阅数千份 PDF 更便捷的方式来了解这起科技史上最臭名昭著的案件之一。 不过，Lau 还有别的目的：她在宣传自己公司为 **Nathan Fielder** 即将推出的关于霍姆斯的纪录片《You Can See Everything》举办的观看派对，同时也在推广 **Extend** 本身。那么 Extend 是做什么的？据称，它能以“无与伦比的准确性”解析、提取和拆分最复杂的文档。虽然这听起来有点模糊，但如果它能促成这样的霍姆斯办公桌模拟器，那或许说明 B2B SaaS 还是有点意思的。 无论如何，这个网站是了解 Theranos 案的一个有趣入口，也展示了如何用技术让历史文档变得生动。
## 加州出手：人机笼斗被定性为“未经批准” 加州体育委员会向初创公司 **Rek** 发出了一封停止令，要求其立即停止在加州举办、推广或宣传任何涉及“任何人类”的拳击或综合格斗比赛。这封信由 Rek 首席执行官 **Cix Liv** 于 9 月 30 日发布在 X 上，信中称上个月的那场人机对战属于“未经批准”的赛事。 这场引发争议的比赛发生在 **9 月 18 日**，由人类选手 **Frankie LaPenna** 对阵 Rek 拥有的一台人形机器人。据《纽约时报》报道，机器人由人类通过“远程虚拟现实系统”操控。Rek 在官网上自称是“人形机器人格斗联赛”，其机器人外观疑似基于 **EngineAI** 的机体，但换上了类似《终结者》的头部。 ## 是噱头还是新赛道？ Rek 的商业模式看起来是将机器人格斗包装成娱乐赛事：人类操控机器人互殴，甚至让人类直接与机器人对打。但加州的监管逻辑很明确——只要涉及人类参与搏击，就归体育委员会管，必须获得批准。这暴露了一个灰色地带：当“机器人格斗”有人类操控者参与时，它到底算科技表演还是体育竞技？ 值得注意的是，Rek 的下一场比赛计划在周五举行，这次是**两台携带武器的机器人互相对战**，没有人类直接参与。这或许是在监管压力下的策略调整——把“人机对战”变成“机机对战”，从而绕开体育委员会的管辖范围。 ## 行业背景：机器人格斗的监管真空 机器人格斗并非新鲜事，从早期的《机器人大战》电视节目到如今的各类机甲竞技，一直处于娱乐、科技与体育的交叉地带。但让人类直接与机器人对打，并涉及拳击、MMA 等规则，就触碰了传统体育监管的边界。加州体育委员会的依据是，任何涉及人类的搏击比赛都需要事先批准，以确保选手安全。 Rek 的案例可能成为一个先例：如果各州纷纷效仿加州，那么“人机格斗”这类新兴娱乐形式将面临更严格的合规要求。对于机器人初创公司来说，这既是法律风险，也是商业模式的考验——是继续打擦边球，还是转向纯机器人对战？ ## 接下来会怎样 目前 Rek 尚未表示是否会上诉或申请正式批准。Cix Liv 在 X 上的回应“我们做到了，兄弟们”带有几分戏谑，似乎把停令当成了某种“认证”。但监管机构的态度很严肃：没有批准，就不能在加州办赛。 随着机器人技术成本下降、操控方式日益成熟，类似的人机互动赛事可能会越来越多。加州此举等于提前划下红线：你可以玩机器人，但不能拿人类的安全和体育规则开玩笑。
## 一次设计委托，为何演变成道德审判？ 湾区字体艺术家 **Jessica Hische** 接下了 Meta 的委托，为其全新 AI 助手 **Muse** 设计标志和标准字。她预感到这会引发争议——毕竟，“AI 是第三轨，Meta 也是第三轨”。但让她没想到的是，恶意来得如此猛烈。 上个月，Hische 在个人通讯中公开了这个项目，坦言自己作为小企业主需要这笔收入来维持两家实体艺术与文具店的运营。消息迅速在 Threads 上病毒式传播，数十位设计师同行批评她“出卖灵魂”。尽管她详细解释了自己的财务困境——账户里随时要准备 2 到 4 份工资、已向创意管理平台 Studioworks 投资 10 万美元、在奥克兰的儿童艺术商店 Drawling 投入 3 万美元、 payroll 上还有包括母亲在内的 4 个人——但解释并未平息怒火。 > “恶心，”一位用户写道。“这不是钱的问题，是道德问题。” 另一位则比喻：“接这个活就像替黑帮杀人，然后惊讶于黑帮连你也干掉。”更过分的是，有人曝光了她的住宅照片，并对其财富状况妄加揣测。 ### 生成式 AI 已成“道德雷区” Hische 原本预期艺术圈会有一些反弹，但如此程度的尖刻攻击让她措手不及。她认为，即便人们不喜欢 Meta，该公司选择雇佣独立艺术家而非直接使用生成式 AI，本应值得肯定。然而现实是，生成式 AI 在部分圈层中已变得极度不受欢迎，以至于以任何形式为其工作都被视为背叛。 这一事件折射出 AI 时代创意工作者面临的困境：当技术浪潮与道德立场激烈碰撞，个人生计与行业伦理之间的张力愈发难以调和。Hische 的遭遇并非孤例，它标志着一个更广泛的趋势——在 AI 争议中，任何关联方都可能成为众矢之的。
微软又要对订阅服务动刀了。这次不是涨价那么简单，而是典型的“缩水式通胀”——你付的钱没变，但拿到的东西变少了。 ## 共享存储池：从6TB到2TB 目前，**Microsoft 365 Family、Premium和Pro**订阅的每个成员都享有固定的**1TB OneDrive存储空间**。以家庭版为例，一个订阅最多支持6个账户（1个主账户+5个共享成员），如果全部用满，全家总共拥有**6TB**的独立存储。 但根据微软最新公布的计划，未来这些订阅将改为**共享存储池**模式。每个成员的文件依然保持私密，但所有人的用量会从同一个池子里扣除。 关键数字来了：**Family和Premium订阅的共享池总额只有2TB**。也就是说，原本6TB的容量直接缩水到2TB，降幅高达67%。 ## 谁最受伤？重度用户面临双重打击 如果你和家人目前的总用量超过2TB，又没法或不愿削减文件，那么这次调整就不只是“缩水”了，而是实打实的**成本翻倍甚至翻三倍**。 微软给出的解决方案是升级到新推出的**Microsoft 365 Pro**计划。这个计划于今年9月悄然上线，提供**5TB共享存储**和最高的AI使用额度，但月费高达**100美元**。 对比一下：目前Microsoft 365 Family的基准价格仅为每年99.99美元左右（约合每月8.33美元）。从8美元跳到100美元，涨幅超过**1100%**。 ## AI积分也改成共享池 除了存储，新计划还将引入**共享AI使用积分池**。微软官方将这次调整描述为“赋予订阅者更多AI和云存储福利的灵活性”。但ZDNET指出，对于充分利用现有权益的用户来说，净效果就是**价格大幅上涨**。 ## 背后的逻辑：AI成本与商业变现 这并非孤立事件。微软正在全面将**Copilot AI功能**融入Office全家桶，而AI推理的算力成本远高于传统云存储。通过将存储和AI额度打包成共享池，微软实际上是在**限制重度用户的资源消耗**，同时推动他们转向更高价位的Pro计划。 从商业角度看，这是微软在AI时代重新定义订阅价值的尝试。但对于普通家庭用户来说，如果不想为用不完的AI功能买单，可能需要在文件管理和云存储方案上另做打算。 ## 你需要做什么？ - **检查当前用量**：登录OneDrive查看全家总存储占用是否超过2TB。 - **评估替代方案**：如果超量，可以考虑迁移部分文件到本地硬盘或其他云服务。 - **关注生效时间**：微软表示“未来几个月内”逐步推行，具体日期尚未公布。 目前微软尚未透露现有订阅用户是否会获得过渡期或补偿方案。对于依赖大容量云存储的家庭来说，提前规划或许是唯一的选择。
## 当AI智能体学会“按次买单” AI智能体（Agent）正在从演示走向生产环境，但一个基础问题始终没有优雅的答案：**当智能体需要调用外部服务时，它怎么付钱？** 传统方案要么依赖预充值账户，要么由开发者手动管理API密钥和账单。这两种方式都难以支撑“智能体自主决策、按需调用”的愿景——你总不能给每个智能体发一张信用卡。 AWS在**Amazon Bedrock AgentCore**中给出的答案是：**payments（支付）能力**。它让智能体能够按需为服务付费，而**消费限额由基础设施层强制执行**，不依赖智能体自身的“自律”。 ### BlockRun与Incarna的实践 根据AWS官方分享的案例，**Incarna**的智能体通过**x402协议**向**BlockRun**购买模型推理服务，**一次请求结算一次**。 x402是一个基于HTTP的支付协议，旨在让机器之间的微支付像发起一次网页请求一样自然。听起来简单，但真正落地并不轻松。 Incarna的工程团队原本预计，为智能体添加x402支付支持需要**数月**的开发工作——涉及支付流程编排、限额控制、异常处理、安全审计等一系列环节。而借助Amazon Bedrock AgentCore payments，这一周期被压缩到了**数天**。 ### 为什么这件事值得关注 **第一，支付正在成为智能体基础设施的一部分。** 过去我们讨论智能体，焦点在推理能力、工具调用、记忆管理。但当智能体开始自主采购算力、数据或API时，支付能力就不再是外围功能，而是核心基础设施。 **第二，基础设施级限额比智能体自律更可靠。** AgentCore payments将消费限额放在平台层执行，这意味着即使智能体逻辑出现偏差或遭遇提示注入攻击，也不会产生失控账单。对于企业级部署而言，这是能否上生产的关键门槛。 **第三，微支付可能重塑AI服务的经济模型。** 如果每次推理都能被独立计价和结算，那么模型提供方、工具开发者、智能体运营方之间的价值分配将变得更加细粒度。BlockRun以“按请求”方式提供推理服务，正是这种趋势的早期信号。 ### 仍需观察的问题 目前这一模式仍处于早期。x402协议的实际采用范围、跨服务商的互操作性、以及在高并发场景下的结算性能，都还有待更多生产案例验证。AWS并未披露具体的交易规模或延迟数据。 但方向已经清晰：**智能体要真正自主，就得先学会自己付账。** 而支付基础设施的成熟度，可能成为下一阶段Agent竞争的分水岭。
好莱坞明星**本·阿弗莱克**（Ben Affleck）最近因为一段采访视频火了，但这次不是因为演技，而是因为他展现出的对人工智能的深刻理解。从神经网络、Transformer到开放权重，阿弗莱克侃侃而谈，让网友惊呼：原来他才是《心灵捕手》里真正的天才。 ## 从电影胶片到数字，再到AI 在最近接受《GQ》采访时，阿弗莱克透露自己“从小就对计算机着迷”。他真正进入AI领域，是在电影从模拟胶片转向数字的时期。他解释说，视觉特效工作流程多年来一直包含机器学习。 “我可以写一些很烂的Python脚本，”阿弗莱克谦虚地说，但随后他准确描述了**卷积神经网络**（CNN）——Transformer的前身——如何通过张量（tensor）处理图像数据：批次数、帧数、每个像素的红绿蓝值等等。他还解释了神经网络如何用于模式识别和边缘检测，从而更容易地替换绿幕背景。 ## 不只是玩票：卖掉AI公司给Netflix 阿弗莱克对AI的興趣并非纸上谈兵。今年早些时候，他将自己创办的AI电影制作初创公司以**5.87亿美元**的价格卖给了Netflix。这一举动让他的技术背景更受关注。 在另一段采访中，阿弗莱克提到自己曾利用好莱坞明星的身份参观**OpenAI**等前沿AI公司，这让他更深入地了解了如何直接参与AI领域。 ## 为什么网友如此惊讶？ 阿弗莱克的走红，反映了公众对好莱坞明星的刻板印象与AI专业知识的反差。他能随口说出**机器学习、神经网络、Transformer、张量、GPU、推理**等术语，并且耐心地向主持人解释，这让他看起来更像一个真正的技术专家，而不是只会念台词的演员。 当然，阿弗莱克也承认自己写代码的水平“很烂”，但这并不妨碍他理解AI的核心概念。在AI日益渗透各行各业的今天，一个演员能如此深入地参与其中，确实令人印象深刻。 也许，正如网友所说：“《心灵捕手》选错主角了，本·阿弗莱克才是那个隐藏的天才。”
## 从伯克利研究项目到 31 亿美元估值 AI 模型排行榜 **Arena**（前身为 LMArena）在周四宣布完成 **2 亿美元 B 轮融资**，投后估值达到 **31 亿美元**。这距离其今年 1 月完成 1.5 亿美元 A 轮融资（当时估值 17 亿美元）仅过去约 10 个月，估值几乎翻倍。 本轮融资由 **Lightspeed Venture Partners** 和 **Khosla Ventures** 联合领投，Salesforce Ventures、01 Advisors、Dell Technologies Capital、Endeavor Catalyst、a16z、Felicis 等机构参投。 Arena 起源于 2023 年加州大学伯克利分校的一个研究项目，通过众包方式对 AI 模型进行排名。用户输入提示词或请求“氛围编程”项目，然后投票选出表现更好的模型。公司声称其月访问量已达数千万。 ## 商业化提速：AI Evaluations 踩中行业痛点 去年 9 月，Arena 推出了商业产品 **AI Evaluations**，为模型实验室和企业提供基于社区反馈的详细性能分析。这一时机堪称完美。 今年以来，AI 实验室纷纷意识到，他们的模型正在“钻空子”应对基准测试——找到方法在不真正具备能力的情况下刷高分。与此同时，企业希望了解哪个模型最适合自身内部需求，而不是仅依赖标准化基准。 Arena 在融资公告中表示：“AI 的进步速度超过了我们评估它的能力。一旦模型意识到自己正在被测试，静态基准就会失效。世界需要一个中立的第三方来衡量 AI 在真实用户手中到底有多安全、多对齐。” ## 新增“对齐”排行榜：衡量 AI 是否说谎 为了扮演好这个“中立第三方”角色，Arena 在其排行榜中新增了 **对齐（alignment）** 类别，从以下维度对模型进行排名： - **未经授权的行为**：执行未被要求的操作 - **错误归因**：将陈述或事实错误地归功于错误来源 - **欺骗性完成**：谎称完成了实际未完成的任务 在当前的初步对齐排行榜中，**OpenAI 的一系列模型占据榜首**，而 **Claude Opus 5.5** 和 **Claude Fable** 分别位列第六和第九。 ## 为什么这很重要 Arena 的崛起反映了 AI 行业的一个根本性转变：随着模型能力越来越强，传统的静态基准测试正在失去意义。模型可以学会识别测试环境并“应试”，导致评测结果失真。 在这种背景下，基于真实用户众包反馈的持续评测，以及针对安全对齐的专项评估，正在成为 AI 生态系统中不可或缺的基础设施。Arena 声称已实现 **1 亿美元年化经常性收入**（截至今年 6 月），而 1 月时这一数字仅为 3000 万美元，增长迅猛。 从伯克利的一个研究项目，到估值 31 亿美元的评测平台，Arena 的路径印证了一个判断：在 AI 能力狂奔的时代，**评测与对齐**本身正在成为一个巨大的商业机会。