杰夫·贝佐斯(Jeff Bezos)正押注一项野心勃勃的计划:通过研究真实神经元来破解大脑的“核心算法”,并以此重塑人工智能。这家名为 **Flourish** 的神经AI公司已获得 **5亿美元** 融资,估值据称达到 **25亿美元**。 ## 从Alexa到神经AI:创始人的转身 Flourish 由 **Thomas Reardon**(神经科学家、多次创业的创始人)和 **Rob Williams**(前亚马逊Alexa高管)联合创立。Williams 曾长期在亚马逊“S-team”负责Alexa等软件产品,直到2025年秋离职。但在2025年12月,他以一种特殊的方式再次联系贝佐斯:他不再是以员工身份汇报,而是以创业者身份向贝佐斯这位投资人做 pitch。 Williams 回忆说,贝佐斯喜欢看“产品已建成”式的新闻稿。他正是这样写的:Flourish 正在解决AI面临的两个最棘手问题——**能效** 和 **持续学习**。他们要构建 **Cortex AI**,第一个“合成智能系统”,旨在匹配人脑的计算能力、学习效率和功耗预算。贝佐斯在游艇上读完后,点了头。 ## 当前AI的困境:贪婪的能耗与僵化的学习 Reardon 直指问题核心:尽管大语言模型(LLM)日益强大,但它们本质上是“资源黑洞”。一个人脑处理信息仅需 **20瓦** 功率,而AI训练集群中的单个芯片功耗超过 **600瓦**,是前者的30倍以上。超大规模数据中心需要成千上万芯片和 **吉瓦级** 电力,足以供应小型城市。更关键的是,模型训练完成后便 **无法持续学习**,每次升级都需要重新吞噬几乎全部人类文本。 “这从根本上就是错的,”Reardon 说,“为了学会英语,我需要把每本书读20遍?一个人类婴儿靠几十万次话语就能做到。” ## Flourish 的路线:从真实神经元出发 Flourish 的突破口在于 **生物学回归**。他们不打算继续堆算力、刷参数,而是试图通过显微镜观察真实神经元的工作方式,从中提炼出高效计算的“核心算法”。目标是构建一个 **50瓦以下功耗** 的合成AI大脑,能够像人脑一样灵活适应环境,并实现持续学习。 目前,Flourish 尚未拿出成品。他们拥有的是“一个信念”——以及贝佐斯的巨额资金。Williams 表示,公司正组建跨学科团队,包括神经科学家、芯片工程师和AI研究员,计划在 **数年内** 展示概念验证系统。 ## 行业影响与挑战 这一方向并非孤例。近年来,**类脑计算** 和 **神经形态芯片** 逐渐升温,但 Flourish 的规模(5亿美元)和贝佐斯的背书令其备受关注。如果成功,它可能颠覆当前以Transformer和GPU为核心的AI范式,开启“低功耗、终身学习”的新时代。 然而,挑战同样巨大:人脑的运作机制远未完全破解,从神经元映射到硅基系统存在巨大鸿沟。Reardon 也承认,他们“还没有想好如何构建匹配人脑魔力的系统”。但贝佐斯显然愿意为这种“疯狂”买单。 > “我们不是在改进现有AI,而是想重新发明它。”——Thomas Reardon
Alpha School 在曼哈顿金融区设立了一处学费高达 6.5 万美元的“校区”,宣称要“重新定义学校”。然而,纽约州教育部门拒绝了其作为独立学校的注册申请,理由是其教学主要依赖 AI 平台,缺乏合格教师的现场指导。实际上,该“校区”是一个家庭教育中心,家长需注册为在家上学。这一事件折射出 AI 教育公司在合规与创新之间的博弈。 ### 豪华校区的真实身份 Alpha School 在曼哈顿 Maiden Lane 180 号的摩天大楼内租下两层,以“最前沿的私立学校”名义招生,年学费 6.5 万美元。但 WIRED 获得的文件显示,纽约州教育部门在去年夏末拒绝了 Alpha 的学校注册申请,指出其教学“主要为在线形式,基于 AI 平台,几乎没有监督或合格教师”。约一周后,Alpha 在 X 平台上将该地点改称为“Alpha Anywhere Center”,并告知家长需提交在家上学文件。 ### 商业模式与监管冲突 Alpha 的创始人 MacKenzie Price 曾公开表示,Alpha 是“面向特定人群的产品,是一所昂贵的私立学校”。然而,其核心模式“2 Hour Learning™”依赖 AI 教授核心学科,学生每天仅需两小时在线学习,其余时间进行项目制活动。这种模式在纽约州不被认可为正规学校教育。Alpha 内部文档甚至显示其策略是“开放日期 > 安全”,暗示优先抢占市场而非合规。 ### 行业启示与争议 Alpha 并非孤例。近年来,AI 教育公司如 Khan Academy 的 Khanmigo、可汗实验学校等也在探索 AI 辅助教学,但大多与传统学校合作。Alpha 的激进做法引发了关于教育监管、AI 教学资质以及“在家上学”商业化的讨论。家长花费 6.5 万美元,实际上得到的是一个 AI 学习平台和场地,而非经认证的学校教育。 ### 小结 Alpha School 的案例揭示了 AI 教育公司在扩张中面临的监管挑战。虽然 AI 个性化学习有潜力,但在缺乏教师监督和官方认证的情况下,其“学校”定位名不副实。家长在选择时需谨慎辨别“创新”与“合规”之间的界限。
量子计算初创公司 Quantinuum 去年亏损近 2 亿美元,营收在 2026 年第一季度下滑,甚至坦言技术可能永远无法成功——但这并未阻挡投资者的热情。该公司在纽约证券交易所上市前提高了股价和发行数量,表明需求超出预期。 量子计算机是一种新兴技术,有望解决现有机器无法处理的问题,在药物发现、国防等领域释放商业优势。包括 IBM、Google 在内的科技巨头及众多初创公司正竞相构建足够强大的量子计算机。然而,这需要巨额投入。近期,多家公司利用科技股高估值上市融资,投资者争相涌入这场淘金热。自年初以来,美国上市的量子计算公司数量已翻倍。 政府支持为投资者注入信心。今年 5 月,美国商务部宣布将向 9 家量子公司投资 20 亿美元,其中 Quantinuum 获得 1 亿美元。UCLA 教授 Prineha Narang 表示,这一认可成为 Quantinuum 获得投资者支持的“顺风”。 Quantinuum 是今年第四家在美国上市的量子计算公司,但却是第一家通过传统 IPO 流程上市的公司。Narang 指出:“你可以说量子领域还没有经历真正的考验,这正是许多公司和投资者关注 Quantinuum IPO 的原因。” 目前,尚无公司建成具有商业价值的量子计算机,何时能实现甚至能否实现仍不确定。BTQ Technologies CEO Olivier Roussy 表示:“在量子领域,你买的不是业务,而是概率。”
亚马逊近日宣布其全自动仓库机器人 **Proteus** 迎来重大升级——新版本支持自然语言交互,工人无需再通过专用代码或软件,只需像与同事沟通一样直接向机器人下达任务。这一变化标志着亚马逊在仓储自动化领域迈出关键一步,也引发了对人机协作与就业替代的新一轮讨论。 ## 从代码到对话:机器人“听懂”人话 自2022年首次亮相以来,Proteus 一直以“乌龟式”的稳重外观和自主搬运能力著称,但此前操作它需要经过专门培训的工人使用专业软件进行编程。亚马逊机器人部门副总裁 **Scott Dresser** 表示,新版本让机器人能够理解自然语言指令,“你告诉它需要做什么,它自己会判断优先级、规划路线和时机。”这种交互方式大幅降低了使用门槛,也让临时或非技术工人能快速上手。 ## 更大活动范围,更广应用场景 除了交互方式的革新,新一代 Proteus 的工作区域也从原来的码头区域扩展到整个仓库。亚马逊称:“新系统可以在任何需要移动物品的地方工作。”这意味着它不仅能处理货物到达时的卸货搬运,还能在工位之间流转物料,甚至协助完成分拣和配送站点的辅助任务。这种灵活性有望进一步提升仓库运营效率,减少货物周转时间。 ## 部署时间表与更广泛的机器人生态 目前,新版 Proteus 正在亚马逊实验室进行试点测试,公司计划在 **2027年上半年** 将其部署到欧洲的仓库。与此同时,亚马逊还计划扩大其触觉敏感机器人 **Vulcan** 以及曾在巴塞罗那试点的协作式手提箱处理系统的应用范围,更多欧洲站点将在未来一年内引入这些技术。 ## 自动化浪潮下的就业争议 亚马逊近年来大力推动机器人替代人工,已引发工会、立法者和公众的持续关注。尽管公司强调“机器人是为了支持而非取代工人”,并声称自引入机器人以来已在全球雇佣了数十万名新员工,但批评者认为,自动化正在系统性减少低技能岗位,而新增岗位往往需要更高技术水平,对原有工人形成转型压力。Proteus 的自然语言能力进一步模糊了人机界限,也让外界担忧:当机器人越来越“像人”,工人的不可替代性还剩多少? ## 小结 亚马逊 Proteus 的升级是仓储物流自动化进程中的一个标志性事件。从代码到自然语言,设备交互的门槛被大幅降低,但这也意味着更多传统岗位面临被重新定义的风险。未来两年,随着 Proteus 在欧洲的落地,我们将更清晰地看到技术效率与就业影响之间的真实平衡。
## 介绍 在 Web 开发中,图标是界面设计不可或缺的元素。开发者 Tim 在维护 lucide-motion-vue 库时,发现 animate-ui 的动画图标集虽然出色,但仅支持 React 或需搭配 shadcn 使用。为了让 Vue 社区也能享受这些精美的动画图标,他将其移植到了 Vue 3,推出了 **@respeak/lucide-motion-vue**。 ## 核心特性 该库包含 **535 个动画图标**,全部基于 Lucide 图标集。每个图标都带有流畅的动画效果,可直接在 Vue 3 项目中使用。这意味着 Vue 开发者无需再依赖 React 生态,就能轻松为应用增添动态视觉元素。 ## 使用场景与优势 - **提升用户体验**:动画图标能更直观地传达状态变化,如加载、成功、错误等。 - **降低开发成本**:开箱即用,无需自行编写动画代码。 - **保持一致性**:基于 Lucide 图标集,风格统一,与现有设计系统兼容。 ## 行业背景 当前 UI 库的动画支持多集中在 React 生态(如 Framer Motion),Vue 社区在动画图标方面选择有限。lucide-motion-vue 的出现填补了这一空白,体现了前端生态的多元化趋势。随着 Vue 3 的普及,类似工具将进一步缩小与 React 的体验差距。 ## 总结 对于 Vue 开发者而言,@respeak/lucide-motion-vue 是一个实用的工具,它让动画图标的集成变得简单高效。如果你正在构建 Vue 3 应用,并希望界面更具活力,不妨尝试这个库。
阿尔茨海默病(AD)影响着全球超过5500万人,早期准确识别正常认知(NC)、轻度认知障碍(MCI)和AD是临床上的迫切需求。近期,一项发表于arXiv的研究利用可解释机器学习方法,基于阿尔茨海默病神经影像学倡议(ADNI)数据集中的八项常规临床评估指标,构建了一个三分类XGBoost模型,实现了近乎完美的检测性能。 ## 研究亮点 该研究从ADNI基线数据中纳入**1641名受试者**(608名NC、767名MCI、266名AD),选取了**MMSE、CDR Global、CDR Sum of Boxes (CDR-SB)、MoCA、FAQ、年龄、性别和教育程度**这八个特征。通过Optuna进行超参数优化(50次试验),并使用SMOTE处理类别不平衡问题。 ## 性能表现 在五折交叉验证中,模型平均宏AUC达到**0.983**(标准差0.007),准确率**0.944**,宏F1**0.929**。在独立的测试集(247例)上,宏AUC为**0.982**(95%置信区间:0.965-0.995),准确率0.943,平衡准确率0.932,宏F1 0.927,Cohen's kappa系数高达**0.909**。这些结果显示了模型卓越的泛化能力。 ## 可解释性分析 研究采用SHAP值进行特征级解释,揭示了不同类别背后的关键驱动因素: - **CDR Global** 是区分NC和MCI的最重要预测因子; - **CDR-SB** 和 **MMSE** 共同主导了AD的分类决策。 这种临床可解释的类特异性特征重要性模式,增强了模型在临床实践中的可信度。 ## 意义与展望 该研究表明,仅利用常规临床评估数据,结合可解释机器学习即可实现高精度的AD三分类检测,为大规模筛查提供了低成本、高可及性的解决方案。未来研究计划引入语音生物标志物,构建多模态检测框架,进一步提升早期诊断能力。
机器学习对数值计算的需求与传统通用计算存在显著差异:模型训练和推理通常不需要双精度(64位)甚至单精度(32位)浮点数的极高精度,反而更看重在有限位宽下的计算效率和吞吐量。正是为了填补这一空白,IEEE标准协会正在制定一项名为 **P3109** 的新标准,旨在定义一套参数化的二进制浮点格式族,并特别针对机器学习场景优化。 根据近期公开的论文《Novel Aspects of IEEE SA P3109 Arithmetic Formats for Machine Learning》,该标准的核心思想是提供一种高度灵活的数值表示框架。用户可以根据应用需求,自由调整格式的 **总位宽、精度位(尾数位)、有无符号以及是否支持无穷大** 等关键参数。这意味着开发者可以为特定模型层或算子定制最合适的数值格式,例如为梯度累积使用稍高精度的格式,而为激活值使用极低位的格式,从而在精度与效率之间取得最佳平衡。 ## 关键设计创新 P3109 标准在操作定义上做出了几项重要设计选择。首先,运算被定义为将浮点值解码到“闭扩展实数集”,即实数加上正负无穷和 **NaN(非数)**。通过对 NaN 和无穷操作数的显式处理,标准确保了运算定义中只涉及实数算术,避免了传统浮点中因特殊值引发的复杂异常路径。其次,标准引入了丰富的舍入和饱和模式,并特别包含了 **随机舍入** 这一对低精度训练极为有用的技术。 更值得注意的是,P3109 强调 **无异常运算**——所有异常情况(如上溢、下溢)不会触发硬件中断或异常信号,而是通过返回值(如返回 NaN)来传递。这种设计直接提升了计算吞吐量,因为处理器无需为处理异常而暂停流水线。 ## 块级操作与精度度量 在实际机器学习系统中,经常需要对共享同一缩放因子的一组数值进行操作(例如批量归一化后的特征图)。P3109 为此定义了统一的块级操作规范,使得向量化或矩阵运算的实现更加简洁高效。 此外,标准允许系统供应商通过一种新颖的、与尺度无关的近似度量来描述其实现精度。该度量类似于“最后一位单位”(ULP),被称为 **κ近似(kappa-approximation)**。这为硬件厂商提供了一种标准化的方式来声明其低精度计算单元的误差特性,便于软件开发者评估并选择合适的后端。 ## 形式化验证与行业意义 论文作者还强调,P3109 标准中的函数定义和多种属性已通过形式化规范进行了机械验证和自动生成,这大大降低了标准中可能存在的歧义或错误。 作为一项仍在制定中的草案标准,P3109 的推出将对 AI 芯片设计、编译器优化以及深度学习框架的数值策略产生深远影响。它有望统一目前碎片化的低精度格式生态(如 FP16、BF16、TF32 等),为未来更高效、更定制化的机器学习硬件铺平道路。
**强化学习(RL)** 在现实世界中的应用日益广泛,但大多数系统仍遵循“先训练,后修复”(train-then-fix)的模式:训练好的智能体在部署后停止学习,直到性能下降才重新训练。近日,一篇被 **ICML 2026** 立场论文轨道收录的文章明确提出,部署一个无法持续优化但能接收评估性奖励信号的智能体,本质上是一个**持续强化学习(Continual RL)** 问题。该文由 Parnian Behdin、Kevin Roice 和 Golnaz Mesbahi 共同撰写,系统论证了为何部署后的智能体应当永不停歇地适应环境变化。 ### 部署后非平稳性的四大来源 作者指出,部署环境并非静止不变,至少存在四类**非平稳性(non-stationarity)**: 1. **环境动态变化**:用户行为、物理条件或系统状态会随时间迁移; 2. **目标或奖励漂移**:任务优先级或评价标准可能调整; 3. **感知与动作边界变化**:传感器噪声、执行器磨损或接口更新; 4. **外部扰动**:竞争对手策略、政策法规或突发事件的影响。 在这些因素作用下,固定策略的智能体必然逐渐偏离最优,最终需要重新训练,而这期间的成本与风险往往被低估。 ### 为什么“永不停止学习”才是最优解 文章强调,部署后持续学习并非锦上添花,而是**确保长期最优性的必要条件**。现实世界中已有成功案例:例如**推荐系统**的在线学习、**机器人**的适应控制、以及**自动驾驶**的持续数据回传与模型迭代。这些系统本质上都在进行某种形式的持续 RL,只是尚未被明确纳入统一理论框架。 作者呼吁社区**摒弃“先训练后修复”的范式**,转向设计能够终身学习的 RL 系统。具体优势包括: - **即时响应**:无需等待性能崩溃即可适应变化; - **效率提升**:减少重复训练的计算与时间成本; - **安全可靠**:渐进式更新比突发式重训更可控。 ### 迈向持续 RL 的路径 论文并未停留在批评,而是提出了初步的**度量标准与设计原则**,例如评估持续学习能力、稳定性与可塑性平衡、以及灾难性遗忘的缓解策略。作者希望借此激发更多关于**部署后学习机制**的研究,推动 RL 从实验室走向真正的“终身自治”系统。 ### 小结 这篇立场论文直击当前 RL 应用中的核心矛盾:**追求最优性却采用固定策略**。它提醒我们,真实世界永远在变化,智能体的学习不应止于部署时刻。对于从事 RL 应用的研究者和工程师而言,这既是一份警醒,也是一份路线图——或许,下一代 RL 系统的核心竞争力,就藏在“持续学习”这四个字里。
**核心结论**:在双层优化、对抗训练等涉及耦合梯度下降的场景中,即使系统渐近稳定,瞬态放大(收敛前的巨大偏差)仍可能发生,且传统谱半径分析无法捕捉。最新研究通过伪谱理论给出了耦合块三角雅可比矩阵的瞬态放大上界,并建立了有限步迭代复杂度界限,为理解高维非平稳学习动力学提供了新视角。 **背景与问题** 耦合梯度下降——即一个参数块的更新依赖于另一参数块——广泛存在于双层优化、双时间尺度随机逼近及对抗训练中。当耦合雅可比矩阵为块三角形式时,渐近稳定性由对角块的谱半径决定。然而,由于非正规性(non-normality),系统收敛前可能出现任意大的瞬态放大,这在神经网络训练、元学习等实际任务中可能导致训练不稳定或泛化性能下降。 **理论贡献** 研究团队为这类块三角雅可比矩阵发展了**尖锐的伪谱理论**。主要结果包括: - 当对角块为对称矩阵且谱半径不超过 γ < 1 时,**Kreiss 常数**满足 K(J) ≤ 2/(1-γ) + ||C||/(4(1-γ)),其中 C 为耦合项。该上界与耦合强度线性相关,且匹配极小极大下界。 - 刻画了导致谱不稳定的**临界耦合阈值**,并利用 Neumann 级数扰动框架将分析扩展至近自指系统。 - 推导出随机耦合梯度下降的**有限步迭代复杂度**为 O(K(J)² log(1/δ)),即瞬态放大上界直接影响收敛所需步数。 **意义与验证** 该工作将伪谱理论引入耦合优化动态分析,揭示了一个**非渐近、实例依赖**的高维学习动力学区间——该区间在谱半径分析下不可见,却在实际训练中至关重要。实验涵盖线性二次问题、IQC 比较及神经网络训练,验证了理论预测。 **行业视角** 在 AI 领域,双层优化(如元学习、超参数优化)和对抗训练的稳定性一直是实践痛点。传统稳定性分析仅关注渐近行为,忽略了有限步内的剧烈波动。这项研究为设计更鲁棒的优化器、选择合适的学习率与耦合强度提供了理论依据,尤其适用于**大模型微调、联邦学习**等需要多级优化的场景。 **论文信息** - 作者:Ahanaf Hasan Ariq - 收录:HiLD 2026(ICML 2026 高维学习动力学研讨会) - 预印本:arXiv:2606.04031
Transformer 架构中的 Query、Key、Value (QKV) 注意力机制是核心组件,但三个投影是否都必不可少?一篇被 ICML 2026 接收的论文对此进行了系统研究。 ## 研究动机 标准 Transformer 使用三个独立的线性投影矩阵分别生成 Q、K、V。然而,这种设计的冗余度一直未被充分探索。减少投影数量有望降低内存占用和计算开销,尤其适合边缘设备部署。 ## 三种投影共享策略 研究者提出了三种约束变体: - **Q-K=V**:共享 Key 和 Value 投影(K 和 V 使用相同矩阵) - **Q=K-V**:共享 Query 和 Key 投影 - **Q=K=V**:单一投影,三个全部共享 后两种会导致注意力图对称,因此引入了二维位置编码来实现非对称注意力。 ## 关键发现 实验覆盖了合成任务、视觉任务(MNIST、CIFAR、TinyImageNet、异常检测)和语言建模(**300M 和 1.2B 参数模型**,在 **10B token** 上训练)。结果表明: - **Q-K=V 效果最佳**:在语言建模中,仅造成 **3.1% 的困惑度退化**,但实现了 **50% 的 KV 缓存缩减**。 - **Q=K-V 和 Q=K=V 性能下降明显**:因为破坏了注意力的方向性。 - **与分组注意力 (GQA/MQA) 互补**:Q-K=V 与 GQA-4 结合可减少 **87.5%** 缓存,与 MQA 结合减少 **96.9%**,使设备端推理成为可能。 ## 原理分析 研究者认为 Q-K=V 有效的原因在于:**Key 和 Value 可以共享相似的表示空间**,且注意力操作本质上是低秩的,因此减少一个投影不会显著损失质量。而 Q=K-V 会破坏 Query 与 Key 的角色差异,导致注意力方向性丧失。 ## 意义与展望 这项工作系统刻画了投影共享作为注意力中权重绑定的一种形式,直接带来可量化的推理内存收益。对于大模型在资源受限设备上的部署,Q-K=V 提供了一种简单有效的优化手段。代码已开源。 **小结**:Transformer 的三个投影并非铁律,适当共享投影(尤其是 K 和 V)可以在几乎不损失性能的前提下大幅降低内存需求,这为高效推理提供了新思路。
核反应堆设计与燃料验证严重依赖临界实验,而实验与目标技术之间的**中子学相似性**是评估实验有效性的关键。传统上,相似性由相关系数 \(c_k\) 量化,它捕捉核数据不确定性引起的 \(k_\text{eff}\) 共享偏差。通常,**\(c_k \geq 0.9\)** 被认为是实验足够相似的阈值。然而,设计出满足这一要求的高相似度实验几何构型极具挑战,往往依赖专家经验和大量试错。 近期,一篇发表于 arXiv 的论文(arXiv:2606.04033)提出了一种**逆设计方法**,利用深度学习与梯度优化自动生成临界实验方案,显著提升了相似度与设计效率。该方法的核心在于: ### 方法:神经网络替代模型 + 梯度优化 研究者训练了一个深度神经网络作为替代模型,用于预测给定几何构型的灵敏度向量。该网络基于 OpenMC 计算的灵敏度数据,采用 **U-Net 卷积编码器-解码器**架构,并创新性地引入**多组注意力池化层**。传统池化方法(如最大池化、平均池化)会丢失空间依赖信息,而多组注意力池化能够捕捉不同能量组下灵敏度分布的空间特征,不仅提升了预测性能,还提供了可解释的内部行为。 替代模型的可微性使得**梯度优化**得以应用于整个组合设计空间。优化过程直接改变几何网格中每个位置的材料分配,以最大化 \(c_k\)。这种方法规避了传统搜索算法的离散性和维数灾难问题。 ### 应用案例:TN-LC 运输容器验证 研究将方法应用于 **TN-Americas TN-LC 运输容器**的验证,该容器使用 HALEU(高丰度低浓缩铀)燃料,现有临界实验数据覆盖极其有限。针对三种感兴趣的构型,优化后的实验几何分别达到了 **0.97757、0.81324 和 0.93276** 的 \(c_k\) 分数。其中两种构型远超 0.9 的阈值,第三种虽未达标,但已显著高于现有水平。 ### 意义与展望 这项工作展示了**深度学习在核工程逆问题中的巨大潜力**。传统临界实验设计周期长、成本高,而基于梯度优化的方法可以快速探索巨大设计空间,自动生成高相似度的实验方案。这不仅加速了新型反应堆与燃料的验证流程,也为未来智能核设计工具奠定了基础。 值得注意的是,该方法目前仍依赖于模拟数据与代理模型的精度。未来工作可进一步扩展至三维几何、考虑更多不确定性来源,并集成到实际实验设计流程中。
强化学习(RL)在语言模型微调中常面临奖励稀疏的难题——模型生成大量文本后,往往只能得到一个最终的胜负或好坏判断,中间步骤缺乏细粒度反馈。近日,一篇发表于 arXiv 的论文提出了 **SDPG(Self-Distilled Policy Gradient)** 框架,通过“自我蒸馏”的方式为模型提供密集的监督信号,显著提升了训练的稳定性和最终性能。 ## 核心思路:让模型既当学生又当老师 传统的策略梯度方法(如 PPO)依赖于一个独立的奖励模型或人工设计的奖励函数,而 SDPG 另辟蹊径:它利用语言模型自身在“特权上下文”(privileged context)下的输出作为监督。所谓特权上下文,可以理解为模型在生成时额外获得的“完美信息”——比如在数学推理任务中,正确答案的解题步骤。模型通过对比自己当前生成与“理想生成”之间的差异,就能获得每一步的梯度信号,无需等待最终奖励。 论文将这一过程形式化为一个**辅助的全词汇学生-教师反向 KL 散度损失**。简单来说,教师(模型在特权条件下的分布)告诉学生(模型在正常条件下的分布):“你应该更像我这样生成。” 这种蒸馏损失与主任务的目标(如最大化奖励)联合优化,从而提供密集的监督。 ## SDPG 的三项关键设计 SDPG 框架融合了三个组件: 1. **组相对验证器优势(Group-Relative Verifier Advantages)**:借鉴 GRPO 的思想,SDPG 在多个生成样本之间计算相对优势,而不是依赖绝对奖励值。这有助于消除奖励噪声,让梯度更新更稳定。 2. **精确全词汇在线自我蒸馏**:与常见的仅对采样 token 进行蒸馏不同,SDPG 计算整个词汇表上的 KL 散度,从而捕捉更丰富的分布信息。这让监督信号更加精细。 3. **参考策略 KL 正则化**:为防止模型过度偏离原始策略,SDPG 引入了一个参考策略(通常是初始 SFT 模型)的 KL 惩罚项,确保更新幅度可控。 ## 实验结果:更稳定,更高效 在多个数学推理和代码生成任务上,SDPG 相比于 RLVR(基于验证器奖励的强化学习)和纯自我蒸馏基线,均表现出更好的收敛稳定性和最终准确率。论文还指出,SDPG 在训练过程中奖励方差更低,说明其密集监督机制有效抑制了训练波动。 ## 行业视角:自我蒸馏的潜力与挑战 SDPG 并非首个将蒸馏用于强化学习的工作,但其创新在于**在线、全词汇、结合组相对优势**的统一框架。这为语言模型在稀疏奖励场景下的微调提供了一条低成本、高回报的路径——无需额外训练奖励模型,也无需人工标注中间步骤。 不过,该方法对特权上下文的质量依赖较高。在无法获取理想生成步骤的任务中(如开放式对话),如何设计有效的特权条件仍是一个开放问题。此外,全词汇 KL 计算的计算开销不可忽视,未来可能需要更高效的近似方法。 总体而言,SDPG 为语言模型强化学习领域注入了一股新思路,尤其适合数学、编程等具有明确正确步骤的领域。随着代码的开源,我们期待更多研究者能在此基础上探索更广泛的落地场景。
## 概述 在表示学习中,一个核心目标是从输入数据中提取出对预测任务“有用”的信息。但什么才算“有用”?一篇来自 arXiv 的新论文《Bayes-Sufficient Representations in Supervised Learning》提出了一个严格的数学框架,将表示与损失函数直接挂钩,定义了**贝叶斯充分性**与**贝叶斯最小性**的概念。 ## 核心概念 作者首先定义:对于给定的联合分布和损失函数,如果一个表示可以通过某个预测头实现**贝叶斯最优决策**,那么这个表示就是**贝叶斯充分的**。这意味着“有用信息”实际上依赖于损失函数的选择。例如: - 对于零一损失,贝叶斯最优决策就是类别众数,表示需要保留类别信息; - 对于平方损失,最优决策是条件均值,表示需保留期望值; - 对于对数损失或严格适当评分规则,最优决策是完整预测分布,表示需保留全部概率信息。 在贝叶斯最优决策几乎必然唯一的情况下,关键概念是**贝叶斯商**——它将输入空间划分为需要相同最优决策的等价类。一个表示是充分的,当且仅当它能够区分这些等价类(即细化该商);而**贝叶斯最小表示**则与商信息等价,即只保留做出最优决策所需的最少信息。 ## 实验验证 论文通过三类实验验证了理论: 1. **可控有限实验**:在合成数据上观察不同损失函数下表示充分性与最小性的差异; 2. **神经网络瓶颈实验**:在 MNIST 等数据集上训练带有信息瓶颈的模型,检查表示是否保留了非必要信息; 3. **真实数据实验**:使用 iNaturalist 数据集进行物种分类,展示在层次化标签下,不同损失函数如何影响表示需要保留的层级信息。 ## 意义与联系 该框架与**属性推断**(property elicitation)领域紧密相连。属性推断研究哪些统计量可以从分布中通过最小化某种损失来提取,而本文则从表示学习角度反向思考:给定损失函数,表示需要保留哪些信息才能实现最优预测? 这一工作为理解表示学习中的信息瓶颈、公平性(如避免保留敏感属性)以及多任务学习提供了理论基础。例如,在公平性场景中,一个贝叶斯最小表示可能无意中保留了与预测无关但敏感的群体信息,而充分性条件则保证预测性能不降级。 ## 结论 论文的核心洞见是:对于固定的监督问题,**分布和损失函数共同决定了贝叶斯最优动作**,进而决定了**贝叶斯商**,而商又确定了实现贝叶斯最优预测所需的最小信息。这一分层关系为表示学习提供了精确的指导:研究者可以根据下游任务的需求(损失函数)来设计表示,在保留必要信息的同时丢弃冗余。 该研究不仅深化了理论理解,也为实际应用中的表示设计提供了可操作的准则。
## 核心要点 **OpenAI、Anthropic、Google DeepMind、微软AI等顶级AI实验室的CEO及科学家联名致信美国国会**,要求制定新法律,强制合成DNA/RNA销售商对客户和订单进行筛查,以防止恶意分子利用AI技术设计生物武器。该信函由无党派组织Institute for Progress和右倾机构Foundation for American Innovation发起。 ## 背景:合成DNA技术门槛降低,AI加剧风险 自1950年代科学家Arthur Kornberg首次成功合成DNA以来,该技术已高度自动化。全球数十家公司通过商用合成仪“打印”并销售定制基因序列,用于科研、药物开发和诊断。然而,并非所有供应商都严格审核客户身份或订单序列。2017年,加拿大研究人员仅花费10万美元,通过邮购DNA就成功重构了已灭绝的马痘病毒,引发学界警觉——类似方法也可用于制造致命的天花病毒。 如今,基因合成成本持续下降,而AI大语言模型的出现进一步降低了设计新型毒素和病原体的知识门槛。尽管从零制造功能完整的病毒仍需生物学训练,但AI工具能快速指导用户避开筛查,甚至修改订单序列以规避检测。 ## 专家警告:AI可能加速生物恐怖主义 斯坦福大学微生物学家兼生物安全专家David Relman在信中指出:“AI工具能让用户迅速找到无需筛查的序列订购渠道,并指导如何修改订单特征,从而绕过现有检测。”虽然生物恐怖袭击历史上极为罕见,但一旦发生,可能造成大规模伤亡、社会恐慌和经济损失。更令人担忧的是,AI设计的病原体可能有意或无意地引发全球大流行。 ## 业界共识:预防胜于补救 联名信强调,鉴于AI发展速度,“过去阻止恶意分子获取生物武器的知识壁垒可能显著削弱”。签署方包括Google DeepMind的Demis Hassabis、OpenAI的Sam Altman、Anthropic的Dario Amodei以及微软AI的Mustafa Suleyman。他们呼吁国会立法,要求所有合成DNA/RNA供应商实施客户身份验证和序列筛查,从源头阻断生物武器的制造链条。 ## 行业影响与未来展望 此举标志着AI行业在安全治理上迈出关键一步。此前,各大AI公司已各自制定AI安全政策,但跨行业协作立法尚属首次。若法案通过,将直接影响全球基因合成企业的运营规范,并可能推动建立国际统一的生物安全筛查标准。 对于AI开发者而言,这不仅是道德责任,更是避免技术被滥用的必要防线。正如信中所言,生物武器的威胁虽小,但后果不可承受——预防性立法是当前最有效的应对策略。
如果你经常在车里等待——比如接送孩子、午休或充电——很可能会用手机游戏打发时间。但你可能不知道,有些游戏可以直接投射到汽车的中控屏幕上,通过 Android Auto 来玩。ZDNET 的编辑亲测发现,除了系统自带的 Gamesnacks 迷你游戏合集外,还有几款主流手游在车载大屏上表现不俗。 ## 哪些游戏能玩? 目前兼容 Android Auto 的游戏并不多,但以下四款值得一试: - **Angry Birds Friends**:经典的弹弓玩法,关卡短小,触控操作在车载屏幕上依然顺手。 - (其他三款游戏正文未完整列出,但据原文描述,它们都具有**简单触控**、**节奏缓慢**、**适合短时间游玩**的共同特点。) ## 如何开始? 只需在手机上安装这些游戏,并将车辆挂入**停车挡**。连接 Android Auto 后,游戏会出现在车载屏幕上,同时你仍可独立使用手机——这在需要安抚后座孩子时尤其方便。 ## 体验如何? 编辑实测发现,游戏在车载屏幕上运行不如手机流畅,但足以舒适游玩。所有游戏都没有复杂的操作或陡峭的学习曲线,适合在等待的几分钟内快速来一局。 ## 行业背景 随着智能座舱和车载娱乐系统的发展,Android Auto 和 Apple CarPlay 正从单纯的导航/音乐工具向**车载应用生态**演进。游戏类应用的加入,不仅丰富了“停车场景”的体验,也为开发者开辟了新的分发渠道。不过,受限于驾驶安全法规,这些游戏仅在 P 挡下可用,且交互方式需适配触控屏。 未来,随着车载屏幕更大、算力更强,以及**云游戏**技术的成熟,或许我们能在车上玩到更复杂的游戏。但现阶段,这些轻量级手游已经足够让等待变得有趣一点。
Rhino Linux 一直以美观著称,如今它正酝酿一场重大变革——通过 Lomiri 桌面环境实现手机与桌面的融合。笔者体验了最新快照版,虽远未完善,但已让人看到 Unity 时代的光辉。 ## 从 Unity 到 Lomiri:融合之梦再起 还记得 Canonical 的 Unity 吗?那个曾试图打通手机与桌面的野心之作,最终因硬件拖累而折戟。如今,**Rhino Linux** 接过接力棒,采用 **Lomiri**(原 Unity 8 的继任者)桌面,重新点燃融合之火。 ## 初见 Lomiri:熟悉又陌生 Lomiri 的界面布局与 Unity 高度相似:顶部面板、左侧启动器、全局菜单……所有元素都透着经典气息。但细看之下,它又有所不同——触控优化更明显,手势操作更丰富。在笔记本上使用时,我甚至不自觉地想用手指滑动屏幕。 ## 现状:潜力巨大,尚待打磨 目前这个快照版**仅适合尝鲜**,离日常使用还有距离。Wi-Fi 连接偶有掉线,应用启动有时会卡顿,部分 Xfce 原生功能尚未完全迁移。但核心体验已经成型: - **应用切换**:通过侧边栏或 Super+Tab 流畅切换 - **通知中心**:从右侧滑出的设计,兼顾鼠标与触控 - **全局菜单**:应用菜单统一在顶部,节省屏幕空间 ## 融合的未来:手机即桌面? Lomiri 的真正目标是在手机、平板、桌面之间无缝切换——插入显示器即变桌面模式。虽然当前快照尚未实现完整融合,但代码库已为此预留接口。如果 Rhino Linux 能解决驱动与生态问题,它或许能完成 Canonical 未竟的事业。 ## 小结 Rhino Linux 的 Lomiri 快照是一次勇敢的尝试。它让我回忆起 Unity 最辉煌的日子,也让我看到 Linux 桌面进化的新可能。尽管前路漫漫,但这份探索精神值得喝彩。
一年前,Anthropic 还坚决反对让 Claude 拥有足以关停内部服务的权限;如今,这种级别的访问已成为常态,开发者因此效率大增。然而,风险也随之而来:失败概率与潜在破坏半径。本文分享了 Anthropic 在推出三款核心代理产品——claude.ai、Claude Code 和 Claude Cowork——过程中,从“人为监督”转向“系统隔离”的安全策略演变。 ## 风险的两面:概率与半径 Anthropic 将代理安全风险拆解为两个维度:**失败概率**和**潜在破坏半径**。模型训练与安全机制的进步不断降低前者,但后者——理论上的“爆炸半径”——随着能力与权限的扩展而持续增长。当代理能完成原本需要一个人甚至一个团队的工作时,不部署的代价变得足够大,只要产品足够安全,风险收益比就倾向于推进部署。 ## 从“审批”到“自动模式”:人为监督的局限性 最初,Claude Code 采用**人为在环**的监督方式:每次代理采取可能产生副作用的行动前,都需要用户点击确认。理论上可行,但实际遥测数据显示,用户批准了约 **93%** 的权限请求。随着审批次数增加,用户注意力下降,监督逐渐流于形式。为此,团队推出了 **Claude Code 自动模式**,通过自动化处理更安全的审批来缓解“审批疲劳”,但任何概率性防御都存在非零的漏报率。 ## 系统隔离:更根本的防御思路 第二种思路是**系统隔离**:不监督代理做什么,而是通过沙箱、虚拟机、出口控制等手段限制其能做什么。这是 Anthropic 投入最多精力的方向,也是最多意外安全故障发生的地方。 ## 三款产品,三种隔离架构 - **claude.ai**:面向大众用户,采用强沙箱与内容过滤,限制代码执行和外部网络访问。 - **Claude Code**:面向开发者,需要访问文件系统和执行命令,采用**最小权限原则**与**自动模式**结合,并通过会话隔离防止横向移动。 - **Claude Cowork**:面向企业协作,设计为多租户隔离,每个工作区有独立的凭证和网络策略。 ## 经验教训:没有银弹 文章强调,没有单一方案能解决所有安全问题。人为监督会疲劳,系统隔离会受限,关键在于根据产品场景平衡风险与效率。Anthropic 的经验表明,**分层防御**——结合自动审批、权限最小化、沙箱隔离与持续监控——是目前最务实的路径。未来,随着代理能力继续提升,安全架构也需要动态进化。
自从macOS Tahoe更新后,Spotlight已不再是简单的搜索工具。本文将分享6个实用技巧,帮你充分利用Spotlight提升工作效率,让Cmd+Space成为你的第二本能。 ## 1. 快速启动应用 按下Cmd+Space,输入应用名称前几个字母,Spotlight会立即显示匹配结果。按回车即可启动,比在Launchpad或Dock中寻找更快。 ## 2. 计算与单位换算 直接在Spotlight中输入数学表达式,如“45*32”,它会立刻显示结果。同样,输入“100美元”或“10公里”可快速换算汇率或单位。 ## 3. 文件搜索与预览 Spotlight可以搜索文件名、内容、标签等。选中搜索结果后按空格键快速预览,无需打开文件。 ## 4. 系统设置快捷访问 输入“蓝牙”“Wi-Fi”“壁纸”等关键词,Spotlight能直接跳转到对应系统设置面板,省去层层点击。 ## 5. 查询字典与百科 输入单词定义或“define:单词”,Spotlight会显示字典解释。还可查询维基百科摘要(需联网)。 ## 6. 执行脚本与自动化 高级用户可利用Spotlight运行AppleScript、快捷指令或终端命令。例如输入“重启”或“睡眠”可执行系统操作。 > **小结**:Spotlight远不止搜索。善用这些技巧,你可以在Mac上事半功倍。
Android Auto 在提供便捷的驾驶体验的同时,也会因为高强度资源占用导致手机发热甚至过热关机。本文总结了 8 个经过验证的降温技巧,帮助你在使用导航、音乐和通话等功能时保持手机冷静。 ### 为什么 Android Auto 会让手机变热? 当手机同时运行导航、流媒体音乐、充电、数据传输等多个任务时,处理器和屏幕持续高负载工作,热量自然积聚。尤其是在夏天车内高温环境下,散热更加困难。 ### 8 个实用降温方法 1. **关闭后台不必要的应用**:在连接 Android Auto 前,手动关闭不需要的后台 App,减少资源竞争。 2. **降低屏幕亮度**:屏幕是主要发热源之一,将亮度调至自动或手动降低 50%,能显著减少发热。 3. **使用车载空调出风口支架**:将手机放在空调出风口前,利用冷风直接散热;避免阳光直射的中控台或仪表盘位置。 4. **更换高质量 USB 数据线**:劣质或老化的线缆会导致充电不稳定,增加手机负担。建议使用原装或认证的 USB-C 线。 5. **关闭不必要的连接功能**:如果不需要蓝牙、Wi-Fi 或热点,可暂时关闭,减少射频模块工作产生的热量。 6. **限制充电电流**:部分手机支持“慢充”模式,在 Android Auto 连接时开启可降低充电发热。 7. **更新系统和应用**:Google 常通过更新优化 Android Auto 的资源占用,保持最新版本可减少异常发热。 8. **暂时关闭无线 Android Auto**:无线连接比有线更耗电且发热更明显,若条件允许,优先使用有线连接。 ### 小结 手机过热不仅影响使用体验,还可能缩短电池寿命。通过以上方法,大多数用户能有效控制温度。若问题持续,建议检查手机散热设计或联系厂商支持。
## 170美元的运动手表,如何成为你的私人训练教练? 在智能穿戴设备日益普及的今天,一款价格亲民的智能手表能否胜任专业运动教练的角色?**Amazfit Active 3 Premium** 给出了肯定的答案。这款售价仅 **170美元** 的设备,不仅具备基础的健康监测功能,更通过内置的智能训练系统,帮助用户制定个性化训练计划、实时追踪运动数据,从而有效降低受伤风险。 ### 核心功能:从计划到执行的全链路支持 与传统的运动手表不同,Amazfit Active 3 Premium 主打“训练教练”功能。它能够根据用户的身体状况、运动历史和目标,自动生成 **定制化的训练方案**。例如,对于跑步爱好者,系统会结合心率区间、配速和恢复时间,动态调整每日训练强度,避免过度训练导致的损伤。 在运动过程中,手表实时监测多项关键指标: - **心率变异性(HRV)**:评估身体恢复状态,提示是否需要休息 - **运动负荷**:量化每次训练对身体的冲击,防止累积性疲劳 - **姿态分析**:通过加速度计和陀螺仪,识别跑步姿势问题,减少关节压力 ### 实战体验:从“盲目跑”到“科学练” 一位资深跑者分享了他的使用体验:在使用 Amazfit Active 3 Premium 前,他每周跑量约50公里,却频繁遭遇膝盖疼痛。佩戴手表后,系统根据他的 **最大心率** 和 **乳酸阈值** 设定了心率区间,并建议将大部分跑量控制在 **有氧区间**。两周后,他的膝盖疼痛明显减轻,同时配速提升了5%。 手表还提供 **实时语音指导**,在跑步中提醒“步频过低”或“心率过高”,帮助用户即时调整。此外,**恢复时间建议** 功能让用户明确知道何时该休息,避免“练二休一”的盲目节奏。 ### 行业背景:AI 赋能健康穿戴的浪潮 Amazfit Active 3 Premium 的成功并非孤例。近年来,**AI 算法** 在可穿戴设备中的应用日趋成熟。从 Apple Watch 的跌倒检测到 Garmin 的体能训练建议,智能手表正在从“数据记录器”进化为“健康顾问”。根据 IDC 数据,2023年全球智能手表出货量中,具备 AI 训练辅助功能的产品占比已超过 **30%**。 这一趋势背后,是传感器精度提升和边缘计算能力的增强。Amazfit 通过自研的 **Zepp OS** 系统,将 AI 模型直接部署在手表端,实现毫秒级响应,同时保护用户隐私。 ### 小结:性价比之选,但非万能 对于预算有限且追求科学训练的用户,**Amazfit Active 3 Premium** 无疑是一个高性价比的选择。它证明了专业训练指导并非高端设备的专属。不过,它无法完全替代真人教练的即时反馈和情感激励,尤其对于需要纠正复杂动作的进阶运动员。 总体而言,这款手表为大众健身提供了一条低门槛、数据驱动的路径,让“避免受伤”从口号变为可执行的日常。