SheepNav

AI 资讯

每日聚合最新人工智能动态

据Hacker News热门消息,苹果公司近日正式对OpenAI提起诉讼,指控这家AI研究公司窃取其商业机密。这一事件迅速引发科技界广泛关注,在Hacker News上获得75分的高热度,并已有3条评论讨论该诉讼的潜在影响。 ## 诉讼核心争议 苹果在诉状中声称,OpenAI在开发其AI模型过程中,非法获取并使用了苹果的专有技术信息。这些信息涉及苹果在AI领域的核心研发成果,可能包括硬件与软件协同优化、隐私保护机制等关键技术细节。苹果认为,OpenAI的行为构成了不正当竞争,并严重损害了其知识产权权益。 ## 行业背景与潜在影响 这起诉讼正值AI行业竞争白热化之际。苹果一直以其封闭生态和硬件端AI能力见长,而OpenAI则凭借ChatGPT等产品在通用AI领域占据领先地位。若苹果胜诉,可能迫使OpenAI调整其模型训练数据来源,甚至影响其未来技术路线。反之,若OpenAI成功辩护,则可能为AI公司基于公开或逆向工程获取技术信息提供法律先例。 ## 市场反应与后续展望 目前,两家公司均未公开回应具体指控细节。法律专家指出,商业机密案件举证难度较高,苹果需证明其采取了合理保密措施,且OpenAI确实通过不当手段获取信息。与此同时,该诉讼也可能加剧科技巨头与AI初创公司之间的知识产权紧张关系。未来数月,此案的进展将成为观察AI产业法律边界的重要窗口。

Hacker News773个月前原文

近日,Hacker News 上一则题为“Please don't discontinue Gemini 2.5 Flash”的帖子引发热议,获得 104 分和 72 条评论。开发者们纷纷表达了对 Google 计划停用该模型的担忧,并分享了他们在实际使用中遇到的困境。 ## 社区声音:性能与延迟的不可替代性 一位名为 Nick_D 的用户在 Google AI 开发者论坛发帖,称其团队的工作流高度依赖 **Gemini 2.5 Flash**。内部基准测试显示,即使调整提示词以适配新模型,**Gemini 3 Flash** 的表现仍不如 2.5 Flash。他呼吁团队不要停用这一模型。 另一位用户 Ruthvik 补充道,延迟和性能最接近的 **3.1 Flash Lite** 也远不及 2.5 Flash,且存在“思维泄露”问题。他认为 2.5 Flash 是目前最全能、最可靠的模型,Google 的大量流量和用量很可能来自这个版本。 ## 地域部署与成本难题 来自澳大利亚的开发者 Joshua_Simpson 指出,**2.5 Flash 是唯一在澳大利亚部署的低延迟模型**,其完成时间仅 300-400 毫秒,非常适合语音代理场景。而 **3.5 Flash** 的完成时间高达 600-700 毫秒,且未在澳大利亚部署,实际延迟接近 700-800 毫秒,完全无法用于语音交互。他强调,在这一地区,没有其他模型能在低延迟应用中达到 2.5 Flash 的质量水平。 成本问题同样突出。用户 tylertreat 提到,从 **Gemini 2.5 Flash 升级到 3.5 Flash,成本增加了约 3 倍**。他质疑:Flash 系列本应定位为低延迟、高性价比的模型,但新一代 Flash 在价格上已偏离了这一初衷。 ## 行业背景:模型迭代中的“性能倒退”隐忧 在 AI 大模型快速迭代的背景下,新版本往往在基准测试上取得分数提升,但实际应用中的“体验倒退”并不罕见。开发者社区对 Gemini 2.5 Flash 的请愿,反映出 **用户对模型更新中“性能-延迟-成本”三角平衡的敏感**。尤其对于语音代理、实时推理等场景,毫秒级的延迟差异和成本翻倍足以决定产品的可行性。 ## 小结 目前 Google 尚未对停用计划作出正式回应。但社区的声音表明,**保留旧模型并非抗拒创新,而是对特定场景下“最佳实践”的坚持**。在 AI 工具日益同质化的今天,开发者希望厂商在推出新模型时,能同时考虑迁移成本、地域部署和实际使用体验,而非简单以“版本号”论英雄。 对于 Google 而言,如何在推进 Gemini 3 系列的同时,平衡现有用户的依赖与需求,将是一项考验。

Hacker News1353个月前原文

开源AI正在蓬勃发展。Hugging Face CEO Clem Delangue 在TechCrunch的Equity播客中表示,该公司已发展成为类似“AI界的GitHub”的平台,AI开发者可以分享和下载开源模型与数据集,目前约有一半的《财富》500强企业正在使用其服务。Delangue观察到一种反复出现的模式:企业最初依赖前沿API,但随着规模扩大,成本压力促使它们转向开源模型。 ## 开源与闭源的博弈 在Anthropic暂停Fable发布的背景下,Delangue强调了开源与闭源之争的重要性。他担心少数大公司可能最终控制一切,而开源是防止AI技术被垄断的关键。 ## 中国实验室的崛起 值得注意的是,目前美国下载的大部分开源模型来自中国实验室。Delangue认为这是一个需要解决的问题,但不应因此不信任开源本身。开源社区应该加强自身建设,而不是关闭大门。 ## 资本效率优先 Hugging Face在融资策略上选择了资本效率,而非硅谷常见的巨额融资路线。Delangue透露,公司去年拒绝了Nvidia的一笔大额投资。这一决策反映了公司对独立性和长期发展的考量。 ## 机器人领域的开源紧迫性 Delangue认为,机器人技术比聊天机器人或编码工具更需要开源和透明。因为机器人将深入家庭生活,看到大量私人信息,开源可以确保其安全性和可控性。 ## 结语 Delangue的观点表明,开源AI不仅是技术选择,更是关乎权力分配和公共利益的战略问题。随着AI应用日益广泛,开源模式的开放性和协作性将变得更加关键。

TechCrunch3个月前原文

AI芯片热潮催生了华尔街史上最大规模的外国公司IPO。韩国存储芯片巨头SK海力士宣布,通过美国上市融资265亿美元,创下非美国公司IPO新纪录。与此同时,美国商务部长霍华德·卢特尼克在活动中表示,已与SK海力士及三星就在美建厂展开讨论,旨在减少对韩国存储芯片的依赖。 ## 华尔街最大外国IPO诞生 SK海力士此次发行1.779亿份美国存托凭证(ADR),每份定价149美元,相当于首尔市场股价的十分之一。该交易超过阿里巴巴2014年250亿美元的IPO,成为史上最大外国公司美国上市。股票于7月10日在纳斯达克开始交易,临时代码SKHYV,7月13日转为正式代码SKHY。上市首日开盘价较发行价上涨14%,且盘中继续走高。尽管ADR定价较首尔市场近三日均价溢价2.7%,但需求仍超过供应七倍以上。 ## 韩国折价不适用于SK海力士 长期以来,韩国公司因治理结构复杂、股东回报低、地缘政治风险等因素,估值普遍低于全球同行,这一现象被称为“韩国折价”。但SK海力士显然未受此影响,原因在于其核心产品——高带宽内存(HBM),这是AI GPU的关键组件。目前,英伟达将SK海力士作为主要供应商之一,使其成为AI芯片热潮的最大受益者。 ## 募资用途:扩建韩国工厂与采购EUV光刻机 根据文件,募资将用于三个方向:一是建设韩国新晶圆厂,以应对AI带来的全球存储芯片短缺;二是建设韩国新封装设施;三是采购EUV光刻机,用于制造下一代芯片。这些投资将进一步巩固其在存储芯片领域的领先地位。 ## 美国商务部长施压在美建厂 美国商务部长卢特尼克在美光科技的活动上表示,已与三星和SK海力士就在美建厂进行洽谈。他强调,不希望韩国继续主导这项重要技术,暗示美国将推动存储芯片本土化生产。这一表态与《芯片与科学法案》鼓励半导体制造回流美国的政策方向一致。 ## 行业影响与展望 SK海力士的IPO成功和建厂压力,折射出AI时代存储芯片的战略地位。作为英伟达的核心供应商,其产能扩张直接关系到AI算力供应链的稳定。而美国要求海外芯片巨头在美建厂,则反映出全球半导体供应链的深度重构。未来,SK海力士、三星和美光之间的竞争,以及各国政策博弈,将深刻影响存储芯片产业格局。

TechCrunch3个月前原文

SpaceX 已向美国联邦通信委员会(FCC)提交申请,计划部署 10 万颗第三代(Gen3)星链卫星,以实现超低延迟、多千兆对称宽带服务。若获批,现有近 1.1 万颗卫星的星座将扩大近十倍。SpaceX 承诺新网络将带来 100 倍于当前系统的带宽,但实际性能仍有待验证。目前星链最高套餐实测下载速度约 145-170 Mbps,上传不足 40 Mbps,远低于光纤宽带。新卫星单颗重超 2 吨,需要更强大的发射能力。该计划有望显著改善农村等宽带匮乏地区的互联网接入,但也引发了天文学界和太空环保人士的担忧。

ZDNet AI3个月前原文

当索尼与Bowers & Wilkins两大音频巨头同时推出旗舰级头戴式耳机,消费者面临的不再是简单的“买哪个”,而是“哪个更适合我”。本文将从设计、音质、舒适度和功能等维度,深度对比索尼1000X The Collexion与B&W Px8 S2,帮你做出明智选择。 ## 设计:奢华路线,各有千秋 索尼1000X The Collexion采用了**铝制外壳与柔软皮革**,整体质感向高端奢侈品看齐。而B&W Px8 S2则延续了品牌一贯的**简约优雅**,使用**Nappa皮革与记忆海绵**,头梁和耳罩的触感更细腻。两者都提供多种配色,但B&W在细节上更显精致,比如金属转轴和编织线材。 ## 音质:索尼均衡,B&W更“Hi-Fi” 索尼1000X The Collexion支持**LDAC与DSEE Extreme**,声音风格偏向**通透自然**,低频有弹性但不轰头,人声清晰,适合流行和古典。B&W Px8 S2则搭载**40mm碳纤维振膜单元**,声音**细节更丰富、声场更开阔**,尤其在古典和爵士乐中能展现乐器分离度,但低频量感稍少。如果你追求“原音重现”,B&W更胜一筹;如果喜欢带感节奏,索尼更讨喜。 ## 舒适度:决定胜负的关键 在长时间佩戴测试中,**B&W Px8 S2明显更舒适**。其**265克**的重量比索尼的**290克**更轻,加上更柔软的耳垫,即使连续使用4小时也不易疲劳。索尼的夹持力稍大,耳罩内部空间也略小,对戴眼镜的用户不太友好。 ## 功能与续航:索尼的生态优势 索尼配备了**行业顶级的主动降噪(ANC)**,支持自适应模式和环境音透传。续航**30小时**,并支持**多点连接**。B&W Px8 S2的降噪效果稍弱,但足以过滤办公室噪音,续航**25小时**,同样支持蓝牙5.2和aptX Adaptive。索尼还提供**360临场音效**和DSEE升频,对安卓用户更友好;B&W则通过**B&W Music App**提供EQ调节和流媒体集成。 ## 小结 如果你**最看重舒适度和Hi-Fi音质**,B&W Px8 S2是更好的选择。如果你**需要顶级降噪、更长的续航和索尼生态功能**,1000X The Collexion更值得考虑。两者都是优秀产品,但舒适度上的差异可能会成为你最终决策的关键。

ZDNet AI3个月前原文

## 从 Google Drive 到 Nextcloud:一次迟来的迁移 我曾是 Google Drive 的忠实用户,多年来用它备份重要文件、分享资料,甚至习惯了按月付费。但渐渐地,一些隐忧开始浮现:用户被无故封禁的报道、Google 对 AI 扫描的愈发强调,以及逐年累积的存储费用,让我重新审视这种依赖单一服务的风险。 ### 为什么选择 Nextcloud? 在寻找替代方案时,我发现了 **Nextcloud**——一款免费、开源的云存储软件,支持 iOS、Android、Windows、Linux 等几乎所有平台。它的核心卖点是 **自托管**:你可以将文件存放在自己的私有服务器上(比如旧笔记本电脑或外接硬盘),从而完全掌控数据。 自托管听起来可能让人望而却步,但实际设置并不复杂。只要按照官方提供的分步指南操作,即使像我这样中等技术水平的用户也能轻松上手。一旦部署完成,Nextcloud 的界面和操作逻辑与 Google Drive 或 OneDrive 几乎无异,学习成本极低。 ### Nextcloud 的优势 - **数据主权**:所有文件存储在你的硬件上,不存在被服务商锁定或审查的风险。 - **无隐性成本**:软件本身免费,只需承担硬件和电费,长期来看比订阅制更划算。 - **功能完整**:支持文件夹组织、文件分享、版本历史、协同编辑等主流功能。 - **隐私保护**:没有 AI 扫描和广告追踪,你的文件只属于你自己。 ### 迁移后的体验 我建立了分类清晰的文件夹体系(宠物医疗、车辆保养、孩子重要文档等),并通过桌面客户端实现自动同步。唯一的代价是初期配置需要一点耐心,但换来的是对数字资产的绝对控制。 如果你也厌倦了云服务商的“软性绑架”,不妨试试 Nextcloud。它可能不会像商业产品那样“即插即用”,但那份掌控感值得付出。

ZDNet AI3个月前原文
视频星期五:机器人世界杯

本周的机器人视频精选,聚焦于机器人领域的重大进展——**首届11对11全尺寸人形机器人足球赛**在RoboCup上成功举行。这一里程碑事件标志着人形机器人团队协作与自主决策能力迈上新台阶。 ### 赛事亮点 - **历史性突破**:两支由全尺寸人形机器人组成的队伍完成了完整的11对11足球比赛,这是RoboCup自1997年创办以来的首次。 - **技术挑战**:机器人需在动态环境中实时感知、规划路径、传球射门,并保持平衡与协作,对运动控制、计算机视觉和人工智能提出了极高要求。 - **未来愿景**:RoboCup的长期目标是到2050年打造一支能战胜人类世界杯冠军的机器人足球队,本次比赛是迈向该目标的关键一步。 ### 行业背景 人形机器人在体育赛事中的应用不仅展示了硬件与算法的进步,也推动了**多智能体协同**、**强化学习**和**实时决策**等核心技术的发展。此外,这些技术可迁移至救灾、医疗护理和工业自动化等实际场景。 ### 其他精彩视频 除足球赛外,本周还汇集了多款机器人演示: - **仿生机器人**在复杂地形中行走的改进算法 - **无人机编队**表演与避障能力 - **家用机器人**执行精细操作的新突破 ### 小结 从实验室到赛场,机器人正逐步融入人类娱乐与竞技领域。这场足球赛不仅是技术的狂欢,更预示着一个机器人协作能力爆发的时代。

IEEE AI3个月前原文
欧盟警告Meta:禁用自动播放和无限滚动,否则面临巨额罚款

## 欧盟《数字服务法》再出重拳:Meta 的自动播放和无限滚动或成历史 欧盟正对科技巨头施加前所未有的监管压力。根据最新消息,欧盟委员会已正式向 Meta 发出警告,要求其旗下 Facebook 和 Instagram 等平台必须**禁用自动播放视频和无限滚动功能**,否则将面临巨额罚款。这一行动的依据是欧盟具有里程碑意义的《数字服务法》(DSA)。 ### 为什么是自动播放和无限滚动? 自动播放视频和无限滚动是社交媒体平台最常用的“粘性”设计。前者在用户浏览时自动播放内容,后者则通过持续加载新内容让用户难以停止滑动。欧盟监管机构认为,这些设计利用了人类心理的弱点,**刻意延长用户在线时间**,从而增加广告曝光和数据收集机会。DSA 明确要求平台不得使用“欺骗性或操纵性”界面,这类功能很可能被认定为违反规定。 ### Meta 面临的实际风险 如果 Meta 未能在规定时间内做出调整,欧盟有权对其处以**全球年营业额最高 6% 的罚款**。以 Meta 2023 年约 1350 亿美元的收入估算,罚款金额可能超过 80 亿美元。此外,欧盟还可以要求 Meta 在整改期间暂停部分服务,这对其广告业务将是沉重打击。 ### 行业影响与连锁反应 这一警告不仅针对 Meta。欧盟此前已对 TikTok、X(原 Twitter)等平台提出类似要求。TikTok 的“无限滚动”和“自动播放”同样被点名,而 X 的“算法推荐”也曾受到审查。可以预见,**整个社交媒体的交互设计范式可能面临重构**。 对于用户而言,这或许是一个好消息:更少的无意识刷屏、更可控的信息消费。但对依赖“注意力经济”的科技公司来说,失去这些“成瘾机制”意味着需要寻找新的增长模式。Meta 已在测试“时间管理工具”和“休息提醒”,但监管压力可能会迫使其做出更根本的改变。 ### 下一步:合规期限与博弈 欧盟尚未公布 Meta 的具体整改期限,但根据 DSA 的执法流程,监管机构通常会给予 3 到 6 个月的缓冲期。Meta 可以选择提起诉讼,但历史上科技巨头在 DSA 相关案件中胜诉率极低。更可能的情况是,Meta 将逐步推出“欧盟特供版”应用,在保留核心功能的同时移除争议设计。 这一事件也提醒全球其他监管机构:**用户界面设计不再是产品团队的自由裁量权,而是需要符合法律红线**。未来,各国可能效仿欧盟,对“黑暗模式”(Dark Patterns)进行更严格的限制。

Ars Technica3个月前原文

模型定制将通用 AI 模型转化为专业化企业资产。通过微调基础模型,企业可以教会 AI 理解自身独特的工作流、术语和领域知识,同时严格遵循品牌风格并减少幻觉。对于企业而言,这不仅是优化,更是创造专有知识产权——微调模型将组织的独特智慧和最佳实践编码到其架构中,构建难以被现成公开前沿模型复制的竞争优势。同时,在目标任务上微调较小的开源模型,往往能匹配甚至超越更大规模专有模型的性能,同时显著降低成本,并将敏感数据保留在安全、私有的基础设施内。 Amazon SageMaker AI 提供丰富的开源模型选择和微调技术。如今,SageMaker AI 推出了针对 **NVIDIA Nemotron 3** 模型的无服务器模型定制功能,首发支持 **Nemotron 3 Nano(300亿总参数,30亿活跃参数)** 和 **Nemotron 3 Super(1200亿总参数,120亿活跃参数)**。通过监督微调、基于可验证奖励的强化学习和基于 AI 反馈的强化学习,用户无需预置或管理任何基础设施,即可将这些高性能开源模型适配到特定领域和工作流中。 ## NVIDIA Nemotron 3 模型架构亮点 NVIDIA Nemotron 3 系列基于 **混合 Mamba-Transformer 混合专家架构**,原生支持高达 **100万 token 的上下文长度**。该架构交错使用三种互补的层类型:Mamba-2 层用于高效的线性时间序列处理,Transformer 注意力层用于精确的关联召回,以及混合专家层用于扩展模型容量。这种设计在长序列处理效率和复杂推理能力之间取得了平衡。 ## 无服务器微调技术 SageMaker AI 为 Nemotron 3 提供了三种微调方法: - **监督微调**:使用标注数据直接调整模型参数,适用于分类、摘要等任务。 - **基于可验证奖励的强化学习**:通过可自动验证的奖励信号优化模型行为,适用于数学推理、代码生成等有明确正确答案的场景。 - **基于 AI 反馈的强化学习**:利用 AI 评判模型输出质量,适用于需要主观判断的任务,如创意写作、对话生成。 ## 如何在 SageMaker Studio 中开始 用户可以直接在 SageMaker Studio 中通过可视化界面或 API 启动无服务器微调作业。步骤如下: 1. 选择 Nemotron 3 模型(Nano 或 Super)。 2. 上传领域数据集(支持常见格式如 JSON Lines)。 3. 选择微调方法(SFT、RLVR 或 RLAIF)并配置超参数。 4. 启动作业,SageMaker AI 自动管理计算资源。 5. 微调完成后,模型可直接部署为无服务器端点。 这种无服务器模式显著降低了入门门槛,使更多企业能够以较低成本实现模型定制,同时保持数据安全。 ## 行业意义 Nemotron 3 的混合架构和无服务器微调能力,为企业在长上下文处理(如法律文档分析、代码库理解)和成本效率之间提供了新选择。结合 SageMaker AI 的托管服务,企业可以快速迭代领域模型,而无需深究底层基础设施。

AWS ML3个月前原文

在牙科行业,影像质量直接决定保险理赔是否获批。据统计,高达 **20%** 的初始保险索赔被拒,其中影像缺失或质量低下是主因之一。然而,传统的质量评估流程往往是事后人工审核——临床医生在拍摄后数小时甚至数天才查看 X 光片,发现问题时索赔已被拒或治疗无法推进。若影像模糊、错位或不完整,患者不得不返回诊所重拍,增加了成本、延误和各方的不满。 Henry Schein One 通过构建 **Image Verify** 系统解决了这一痛点。该系统基于 **Amazon SageMaker AI**,在牙科 X 光片拍摄的瞬间进行实时质量评估,覆盖数千个诊所。从概念到部署,Image Verify 在数月内便推广至 **10,000 多个活跃站点**,已处理超过 **1,100 万张 X 光片**,且每周新增约 **150 万张**。目前,Henry Schein One 正将该系统扩展至全球 **40,000 个站点**,覆盖四个地区。 ## 挑战:大规模实时影像质量审核 Henry Schein One 之前的影像审核方案运行在另一个云平台上,但无法满足临床工作流对延迟和成本效率的要求。在 AWS 上重建并非简单的迁移,而需要设计一个能同时满足五项严格要求的系统: - **延迟**:质量评估必须在 **3 秒内** 完成,以无缝融入临床工作流。 - **准确性**:多个机器学习模型需评估清晰度、对齐度和完整性等不同维度,避免误报损害临床信任。 - **规模**:系统需同时服务数万个站点,日处理量达数十万张。 - **成本效率**:大规模 GPU 推理若不精心优化,成本将难以承受。 - **全球覆盖**:医疗场景具有本地化特征,但平台必须在多个区域保持一致的性能表现。 ## Image Verify 的解决方案 Henry Schein One 利用 **Amazon SageMaker AI** 构建了端到端的影像质量验证流水线。系统在 X 光片拍摄后立即触发推理,调用多个专用模型分别评估不同质量指标,并在 **亚秒级** 内返回结果。如果检测到质量问题,系统会实时提示操作人员,从而在患者离开前完成重拍,避免了后续的理赔纠纷。 ### 关键设计亮点 - **多模型并行推理**:针对不同质量维度(如清晰度、解剖结构完整性)部署独立模型,并通过 SageMaker 的模型编排能力实现并行推理,确保整体延迟在 3 秒以内。 - **成本优化**:通过 **GPU 实例自动缩放** 和 **批量推理**,在高峰期保持性能,在低谷期降低成本。此外,利用 **Amazon Elastic Inference** 或 **SageMaker 推理加速器** 进一步降低单位推理成本。 - **全球部署**:采用多区域架构,利用 **AWS 全球基础设施** 将推理端点部署在靠近诊所的区域,确保低延迟并符合数据本地化法规。 ## 成果与展望 Image Verify 上线后,Henry Schein One 的影像质量审核流程从“事后补救”转变为“即时预防”。诊所端重拍率显著下降,保险索赔通过率提升,患者体验得到改善。目前系统每周处理 **150 万张** X 光片,并持续增长。未来,Henry Schein One 计划将该平台扩展至 **40,000 个站点**,并探索在正畸、种植等更复杂牙科影像中的应用。 这一案例表明,**实时 AI 推理** 在医疗影像领域具有巨大价值——不仅提升运营效率,更直接改善临床结果和患者满意度。对于希望构建类似系统的企业,关键在于平衡延迟、准确性和成本,而 **Amazon SageMaker AI** 提供了灵活的基础设施和工具来应对这些挑战。

AWS ML3个月前原文

企业数据分析正从“自助 BI”迈向“智能体分析”(Agentic Analytics)时代。然而,数据分散在不同系统中,同一概念定义不一,导致 AI 智能体容易给出矛盾答案。本文介绍如何在 AWS 上利用 Stardog 语义 AI 应用(覆盖 Amazon Aurora 和 Amazon Redshift)构建语义层,并通过 Amazon Bedrock AgentCore 运行 Strands Agents,实现无需 ETL 的客户 360 度查询。 ## 为什么需要语义层? 传统报表到自助 BI 的进化并未解决根本问题:数据工程师仍需为每个问题预建模型,分析师仍是瓶颈。生成式 AI 智能体能自主规划、编写查询、评估结果并迭代,但前提是底层数据语义一致。例如,CRM 中的“客户”与计费系统的“客户”并非同一记录,北美团队的“收入”计算方式也可能与欧洲不同。若直接让智能体访问碎片化数据,即便 SQL 语法正确,也可能返回错误或矛盾的答案。 ## Stardog 语义层如何工作? Stardog 在现有数据库(如 Aurora 和 Redshift)之上构建统一的语义层,通过知识图谱映射不同数据源中的实体和关系。它支持: - **虚拟集成**:无需 ETL,实时查询跨源数据。 - **语义推理**:自动理解“客户”“订单”等概念的关联,消除歧义。 - **兼容 AWS 计算**:可部署在 Amazon EKS、ECS 或 Lambda 上。 ## Amazon Bedrock AgentCore 的角色 AgentCore 是一个托管服务,整合了身份认证、托管和工具凭证管理。本文中,Strands Agents 通过 AgentCore 访问语义层,回答“客户 360”类问题——例如“某客户过去一年的总消费额”,该问题需要同时查询 Aurora 中的交易记录和 Redshift 中的分析数据。 ## 实践价值 这种架构的核心优势在于: 1. **降低数据准备成本**:无需为每个新问题预先建模。 2. **提升答案可靠性**:语义层确保跨系统数据一致性。 3. **加速落地**:借助 Bedrock 的基础模型(如 Claude、Llama)和 AgentCore 的托管能力,开发者可快速构建可信的企业级 AI 智能体。 ## 小结 智能体 AI 的瓶颈不在模型能力,而在数据语义的统一。Stardog + Amazon Bedrock AgentCore 的组合提供了一条务实路径:在现有 AWS 数据基础设施上构建语义层,让 AI 智能体从“能写 SQL”升级为“能理解业务含义”。

AWS ML3个月前原文

在 AI 智能体从概念验证走向企业级生产环境的过程中,规模化运营的挑战远不止于智能体本身。Amazon Quick Automate 通过原生集成**案例管理**,将每个工作项视为一个贯穿全生命周期的“案例”,为智能体工作流提供状态追踪、异常处理、人工介入(HITL)和动态扩展等关键能力。 ## 从概念验证到规模化生产:智能体面临的运营挑战 一个 AI 智能体在概念验证(POC)阶段可以轻松处理一张发票、审核一项理赔或分类一个工单。但当工作项数量达到**数千甚至数百万**时,企业需要面对一系列新的问题:如何追踪每个工作项在多智能体、多系统中的状态?如何定位失败节点与原因?如何让人类在必要时介入?又如何根据需求动态扩展基础设施?这些正是 Amazon Quick Automate 通过**原生案例管理**要解决的核心痛点。 ## 案例管理:为智能体工作流注入结构与可见性 在 Quick Automate 中,**每个工作项都被定义为一个“案例”**,并贯穿其从创建、处理到关闭的完整生命周期。这种设计带来了几个关键优势: - **全流程可见性**:案例状态实时更新,团队可以清晰看到每个工作项在哪个步骤、由哪个智能体处理,以及处理结果。 - **异常处理与重试**:当智能体处理失败时,系统可以自动标记案例状态,触发重试或转人工处理。 - **人工介入(HITL)**:在需要判断、审批或复杂决策的场景下,案例可以进入“等待人工”状态,由人类操作员处理后再返回自动化流程。 - **动态扩展**:通过“案例创建者-处理器”模式,系统可以根据输入负载自动创建多个案例,并分配给多个处理器并行执行,实现弹性伸缩。 ## 核心模式:案例创建者与处理器 Quick Automate 引入了一种简洁但强大的设计模式——**案例创建者-处理器**。创建者负责侦听输入源(如消息队列、数据库、API 调用),为每个新工作项生成一个案例;处理器则持续轮询待处理案例,执行智能体工作流并更新案例状态。这种解耦架构使得系统可以轻松应对流量高峰:当输入激增时,创建者快速生成大量案例,而处理器集群可以自动扩展,并行处理这些案例,从而保证吞吐量。 ## 真实场景:企业级流程中的案例管理实践 以一个典型的**保险理赔**流程为例: 1. **案例创建**:当理赔申请提交后,Quick Automate 自动创建一个案例,包含申请人信息、事故描述、证据文件等。 2. **智能体处理**:AI 智能体自动提取关键信息、验证保单有效性、评估损失金额。如果智能体对某项数据存疑(例如发票金额异常),案例状态变为“需人工审核”。 3. **人工介入**:人类审核员查看案例详情,确认或修正智能体的判断,然后提交反馈。案例状态更新为“已审核”,触发后续自动处理。 4. **多智能体协作**:案例可能依次经过欺诈检测智能体、赔付计算智能体、支付智能体,每个步骤都记录在案例历史中。 5. **案例关闭**:当所有步骤完成,案例状态变为“已关闭”,所有审计日志、决策路径和人工注释都保留在案例中,方便后续追溯。 ## 企业级能力:不止于自动化 除了核心的案例生命周期管理,Quick Automate 还提供了细粒度访问控制、活动日志、版本管理、异常处理等企业级功能。这意味着团队可以安全地将智能体工作流部署到生产环境,同时满足合规与审计要求。 ## 总结 Amazon Quick Automate 的原生案例管理能力,将 AI 智能体从“单点任务执行者”升级为“企业级流程参与者”。通过为每个工作项提供结构化的生命周期管理,它解决了规模化运营中的**可见性、可靠性、可追溯性**三大核心问题。对于正在将智能体从实验室推向生产环境的企业来说,这或许是比智能体本身更值得关注的基础设施。

AWS ML3个月前原文

## 概述 部署大型基础模型(FM)时,原始 16 位浮点精度(BF16/FP16)的存储和计算成本高昂,需要大容量 GPU 实例,推高服务成本并拖慢迭代周期。**量化**通过降低权重精度(如从 16 位降至 4 位)显著压缩内存占用,但可能影响模型精度。**动态量化**则能在保持精度的同时大幅减少内存,实现成本、存储和启动时间的综合优化。 本文介绍了四种使用 **Unsloth** 进行量化并在 AWS 基础设施上部署的模式,涵盖 **Amazon EC2**、**Amazon SageMaker AI** 推理端点以及 **Amazon EKS/ECS** 容器编排场景。 ## 什么是 Unsloth 动态量化? Unsloth 联合创始人 Daniel Han 解释道:“一个强大模型的最大问题是体积巨大,需要 1.5TB 才能运行。通过一些技巧,可以将模型压缩到 217GB。你可能认为体积缩小 86% 会导致精度下降 86%,但实际情况并非如此——精度仅下降约 14%。” 动态量化的核心在于**并非将所有权重降至 4 位,而是保留部分层为更高精度(如 8 位)**,从而在压缩与精度之间取得平衡。例如,一个 **80 亿参数模型** 从约 16GB(BF16)降至约 5GB(4 位),使原本需要多 GPU 的实例能单 GPU 运行。 ## 四种部署模式 ### 1. Amazon EC2 直接部署 适合需要完全控制实例环境、调试或低延迟调优的场景。用户可直接在 EC2 GPU 实例上加载量化模型,使用 Unsloth 优化后的推理代码。 ### 2. Amazon SageMaker AI 推理端点 利用 SageMaker 的托管服务,简化模型部署、扩展和监控。用户可将量化模型打包为容器镜像,创建实时端点,自动处理负载均衡与弹性伸缩。 ### 3. Amazon EKS 部署 对于已采用 Kubernetes 的团队,EKS 可将量化模型作为 Pod 部署,利用 K8s 的调度、自动扩缩和滚动更新能力,适合微服务架构。 ### 4. Amazon ECS 部署 类似 EKS,但更轻量,适合使用 Docker Compose 或任务定义的场景,通过 Fargate 或无服务器模式进一步降低运维负担。 ## 生产部署实践要点 - **模型格式与兼容性**:确保量化后的模型(如 GGUF、AWQ 等)与推理框架兼容。 - **性能监控**:跟踪推理延迟、吞吐量和 GPU 利用率,根据负载调整实例规格。 - **成本优化**:动态量化带来的内存节省可直接转化为更小实例或更少 GPU 的使用,降低每小时成本。 - **精度验证**:部署前在代表性数据集上对比量化模型与原始模型的输出,确保业务指标可接受。 ## 小结 Unsloth 的动态量化技术为大规模 AI 部署提供了实用路径——在精度损失可控的前提下,大幅降低硬件门槛和运营成本。结合 AWS 的 EC2、SageMaker、EKS/ECS 等灵活部署选项,团队可根据自身技术栈和需求选择最合适的模式,加速模型从研究到生产的落地。

AWS ML3个月前原文

SAP 数字化转型是企业面临的最复杂、高风险的任务之一,通常跨越数月甚至数年,涉及业务流程和自定义代码的复杂依赖关系,且需要难以仅靠人类顾问扩展的领域专业知识。KTern.AI 作为一家 SAP 数字转型平台,多年来一直致力于让这些转型更快、更可预测。如今,他们通过转向智能体 AI 实现了迄今最大的飞跃。 从传统的 SaaS 平台演进为下一代智能体 AI 平台,意味着需要协调多个专业智能体,使其在长期运行的企业项目中协同工作。每个智能体都需要具备持久上下文、安全的工具访问权限以及生产级可靠性。KTern.AI 利用 Amazon Bedrock AgentCore 和 Strands Agents SDK 构建了这一系统。本文详细介绍了其架构设计、构建的智能体类型以及为客户带来的实际成果。 ## 架构核心:持久上下文与安全工具访问 KTern.AI 面临的核心挑战在于:真正的自主 SAP 转型需要智能体能够跨数月甚至数年的项目进行推理,同时协调多个领域,并严格遵守企业安全与合规边界。传统的单轮 AI 交互无法胜任。Amazon Bedrock AgentCore 提供了基础能力,而 Strands Agents SDK 则帮助实现了多智能体编排。每个智能体都维护着持久上下文,这意味着它们可以记住历史交互和项目状态,从而做出更连贯的决策。同时,通过安全的工具访问机制,智能体能够调用 SAP 系统接口、分析代码仓库或处理财务数据,而不会突破安全边界。 ## 构建的智能体类型 KTern.AI 构建了多个专业智能体,覆盖 SAP 转型的关键环节: - **逆向工程智能体**:自动分析现有 SAP 系统,生成数字化蓝图,识别自定义代码和业务流程依赖。 - **标准适配智能体**:评估业务需求与 SAP 标准流程的差异,提出适配建议。 - **代码分析智能体**:扫描 ABAP 代码,识别与 S/4HANA 不兼容的代码段,并提供迁移建议。 - **异常挖掘智能体**:专注财务和销售流程,自动检测数据异常或流程偏差,减少人工审计工作量。 这些智能体能够自主编排工作流,从逆向工程到标准适配、代码分析,再到财务和销售流程的异常挖掘,实现了端到端的自动化,而无需构建自定义智能体基础设施。 ## 客户成果与行业意义 KTern.AI 的平台已实现 **7 倍更快的转型速度**,并将整体工作量减少 **24%**。通过将领域专业知识编码为专有知识引擎,并结合数据驱动的超自动化,客户能够更可预测地完成 S/4HANA 迁移和系统转换。 这一案例展示了智能体 AI 在企业级场景中的落地潜力:不再是简单的问答或单步任务,而是能够管理长期、多步骤的复杂项目。Amazon Bedrock AgentCore 作为底层平台,提供了必要的持久化、安全性和可靠性,而 Strands Agents SDK 则简化了多智能体的协调。对于正在进行 SAP 转型的企业而言,这种自动化能力有望显著降低对稀缺顾问资源的依赖,并加速数字化转型进程。 ## 小结 KTern.AI 的实践表明,智能体 AI 在 SAP 这样的大型企业系统中具有切实价值。通过将专业知识与自主代理相结合,企业可以更高效地应对复杂转型挑战。未来,随着更多企业采用类似架构,智能体 AI 有望成为企业级自动化的标准范式。

AWS ML3个月前原文

大语言模型推理中的预填充(Prefill)与解码(Decode)共享同一 GPU 时,长提示会阻塞所有并发请求的令牌生成。**分离式预填充与解码(DPD)** 通过将两个阶段分别运行在独立的 GPU 池中,并借助弹性结构适配器(EFA)与远程直接内存访问(RDMA)连接,消除了这种干扰。 LLM 推理包含两个本质不同的阶段:预填充是**计算密集型**,它并行处理整个输入提示以生成初始键值(KV)缓存;解码则是**内存密集型**,每次生成一个令牌,需要大量内存带宽来访问模型权重和不断增长的 KV 缓存。通过将两者分离为专用引擎,可以为每个阶段分配不同的并行策略。这种分离允许独立调整**首令牌时间(TTFT)** 和**令牌间延迟(ITL)**,比块状预填充调优更可靠地控制尾部延迟,并防止长上下文预填充阻塞正在进行的解码请求。 vLLM 通过连续批处理和 PagedAttention 提高了单节点效率。然而,大规模部署的组织在编排多节点部署和优化路由时仍面临挑战。本文展示了如何使用 SageMaker HyperPod Inference Operator 在 Amazon SageMaker HyperPod 上实现基于 vLLM 的 DPD。 ### 何时使用分离式推理 分离预填充与解码在以下场景中效果最为显著:**长上下文、高并发流式工作负载**,例如聊天助手、Agent 管线、文档分析端点和带有大量检索上下文的检索增强生成(RAG)。在这些情况下,单个长提示在共享 GPU 上会导致其他所有请求的解码停滞,造成每令牌延迟尖峰,而 DPD 通过架构设计消除了这一问题。 考虑使用 DPD 的场景: - 输入提示**经常超过 4096 个令牌** - 存在**多个并发用户或请求** - 需要**流式响应**且令牌交付一致性至关重要 - 混合流量中同时包含**长提示和短提示** 当 GPU 争用并非实际问题时,**共存部署**是更简单的选择:批处理或离线工作负载(优化 TTFT)、低并发部署、或仅短提示流量。在路由阈值以下,通过 EFA RDMA 传输 KV 缓存的固定成本超过了隔离解码带来的收益。DPD 路由器会将此类请求直接发送给解码器。 ### 架构与实现 DPD 架构由三个核心组件构成:预填充池、解码池和智能路由器。预填充池负责处理提示并生成 KV 缓存,解码池利用接收到的 KV 缓存逐令牌生成输出,路由器则根据提示长度、当前负载和延迟目标决定请求的路由方式。 在 SageMaker HyperPod 上实现时,利用 HyperPod Inference Operator 可以简化多节点部署的编排。EFA RDMA 提供了低延迟、高带宽的节点间通信,使得 KV 缓存在预填充和解码池之间高效传输成为可能。 ### 性能优化与权衡 分离架构带来的主要收益包括: - **消除干扰**:长提示不再阻塞其他请求的解码,尾部延迟显著降低 - **独立优化**:可为预填充和解码分别调整并行策略,例如预填充使用更大的张量并行度,解码使用流水线并行 - **资源效率**:根据工作负载动态调整预填充和解码池的大小,避免资源浪费 然而,也存在一些权衡: - **KV 缓存传输开销**:通过 EFA 传输 KV 缓存会引入固定延迟,对于短提示可能得不偿失 - **复杂性增加**:需要管理两个独立的 GPU 池和智能路由逻辑 - **路由决策延迟**:路由器本身可能成为瓶颈,需要高效的路由算法 ### 总结 DPD 是应对现代 LLM 推理中长上下文和高并发挑战的有效架构。通过在 SageMaker HyperPod 上结合 vLLM 和 EFA RDMA,组织可以构建可扩展、低延迟的推理服务。对于以流式响应为核心的应用,DPD 提供了一条清晰的路径,在保持高吞吐的同时实现稳定的每令牌延迟。

AWS ML3个月前原文

百思买正在以**350美元**的超低价出售**70英寸Insignia F50智能电视**,相比原价节省了150美元。这款电视虽然价格亲民,但功能并不简陋:它搭载**Fire TV平台**,内置**Alexa语音控制**,支持**HDR10**,并拥有70英寸的大屏幕,非常适合升级家庭影院或观看体育赛事(如即将到来的FIFA世界杯)。 ## 性价比之选 Insignia F50系列主打“高性价比”,在保持低价的同时,提供了主流智能电视的核心功能。对于预算有限但又希望获得大屏体验的用户来说,这是一个极具吸引力的选择。70英寸版本目前仅售350美元,相当于每英寸仅5美元,这在同类产品中极为罕见。 ## 功能亮点 - **Fire TV平台**:界面流畅,应用生态丰富,支持Netflix、Prime Video、Disney+等主流流媒体服务。 - **Alexa语音控制**:可通过遥控器或语音直接搜索内容、控制智能家居设备。 - **HDR10支持**:虽然不支持更高端的Dolby Vision,但HDR10仍能提供不错的对比度和色彩表现。 - **70英寸4K分辨率**:大屏带来的沉浸感是小型电视无法比拟的,尤其适合客厅或家庭影院。 ## 值得买吗? 如果你正在寻找一台**大尺寸、价格低廉**的电视,且对画质没有极致要求(如不需要OLED或高刷新率),那么Insignia F50 70英寸版本是目前市场上**性价比最高的选择之一**。它特别适合: - 预算敏感的家庭用户 - 需要第二台电视的卧室或游戏室 - 临时租赁住所的租客 - 体育赛事或电影爱好者 当然,如果你追求顶级画质或更高级的智能功能(如Dolby Vision、120Hz刷新率),可能需要考虑更高价位的产品。但就**350美元**这个价位而言,Insignia F50的表现已经超出预期。 ## 购买建议 此次折扣仅限百思买,且可能为限时促销。建议有需求的用户尽快下单,以免错过优惠。同时,购买前请确认电视尺寸是否适合您的安装空间,70英寸电视的包装尺寸较大,需预留足够空间。

ZDNet AI3个月前原文
日本隼鸟2号完成史上最近距离小行星飞掠

日本宇宙航空研究开发机构(JAXA)的隼鸟2号探测器再次创造历史,成功完成了一次极度接近小行星的飞掠任务,其目标小行星的尺寸几乎与探测器本身相当。这次飞掠被认为是迄今为止距离最近的小行星探测之一。 ## 任务背景与目标 隼鸟2号在完成对小行星龙宫的采样返回任务后,并未停下探索的脚步。它被重新定向至一颗名为**鸟船(Torifune)**的小行星,这颗小行星的直径仅约30米,比隼鸟2号本体大不了多少。对于如此微小的目标,精确导航和接近操作极具挑战性。 ## 飞掠细节与科学意义 此次飞掠中,隼鸟2号利用其光学导航相机(ONC-T)拍摄了鸟船的高分辨率图像。通过超近距离的观测,科学家能够获取小行星的表面形貌、自转状态和可能的物质组成信息。这类微小天体的研究有助于理解太阳系早期物质的演化过程,同时也能为未来潜在的**小行星防御**任务提供关键数据。 ## 技术挑战与成就 执行如此近的飞掠需要极高的轨道控制精度。隼鸟2号团队通过精确的计算和实时调整,确保探测器在安全距离内完成观测。这次任务不仅展示了JAXA在深空探测领域的**先进导航能力**,也验证了微小天体探测的可行性。 ## 未来展望 隼鸟2号将继续其扩展任务,可能还会对其他小行星进行飞掠或观测。此次成功为后续类似任务积累了宝贵经验,也进一步巩固了日本在**小行星探测**领域的领先地位。

IEEE AI3个月前原文

开源AI正在蓬勃发展。Hugging Face CEO Clem Delangue在TechCrunch的Equity播客中分享了他的观察:越来越多的企业正在从依赖付费API转向使用开源模型,原因直指成本与控制权。 ## 从“租用”到“拥有”的转变 Delangue表示,他反复看到相同的模式:企业最初会使用前沿API(如OpenAI的GPT系列)来快速验证想法,但随着规模扩大,高昂的API费用开始成为负担。“当使用量达到一定程度时,租用AI的成本会远远超过自行部署开源模型的成本。”他解释道。这种成本压力促使企业转向像Hugging Face这样的平台,寻找可自由下载和部署的开源模型。 目前,Hugging Face已成为AI领域的GitHub,约一半的财富500强企业都在使用其平台。Delangue认为,开源不仅降低了成本,更让企业获得了对AI系统的完全控制权——包括数据隐私、模型定制和长期维护。 ## 开源与闭源之争:谁控制未来? Delangue对闭源AI的垄断风险表示担忧。他指出,如果少数几家大公司控制了最先进的AI模型,它们将有能力决定技术的使用方式、定价甚至发展方向。这种集中化可能扼杀创新,并带来安全隐患。他以Anthropic暂停发布Fable模型为例,说明闭源公司可以单方面决定什么“安全”,而这种权力不应由私人企业独享。 相比之下,开源模型允许社区审查代码、发现漏洞,并共同改进。Delangue认为,开源是确保AI安全、透明和民主化的关键路径。 ## 中国AI模型与全球竞争 在谈到中国AI模型时,Delangue承认中国团队在开源领域做出了重要贡献。他提到,许多来自中国的模型在Hugging Face上获得了大量下载,这表明开源社区是全球性的。他认为,各国之间的开源协作有助于加速AI进步,但也需要警惕技术被滥用。 ## 结语 对于企业而言,选择开源还是闭源已不仅仅是技术偏好,而是关乎成本、控制权和长期战略。Delangue的观察揭示了一个趋势:随着开源模型能力的提升和生态的完善,越来越多的企业正从“租用AI”转向“拥有AI”。Hugging Face作为这一转型的平台,正在成为AI基础设施的核心。

TechCrunch3个月前原文

Instagram 负责人亚当·莫塞里(Adam Mosseri)在 Lenny Rachitsky 的播客中表示,平台不会完全过滤 AI 生成内容,但用户若不喜欢,应有权将其从信息流中排除。莫塞里强调:“我不认为我们应该过滤掉 AI 内容,但应该告知用户哪些是 AI 生成的。”他同时区分了基于内容的分类与全面禁止 AI:喜欢 AI 的用户可以拥有“纯 AI 信息流”,而不喜欢的用户则应能选择不看。 然而,Instagram 目前仅对 AI 内容进行标记,并未提供过滤选项。莫塞里承认检测 AI 内容“很难”,随着模型进步,平台可能“失去识别能力”。他建议更务实的做法是标记“相机拍摄的真实内容”,而非 AI 内容。这一观点与他 2025 年 12 月关于“真实媒体”指纹识别的表态一致。 尽管莫塞里表示需要打击垃圾 AI 内容,Instagram 仍在积极拥抱 AI 技术。Meta 推出的 AI 图像生成器 Muse Spark 允许用户通过标记将他人融入 AI 创作,引发安全担忧。国家性剥削中心执行主任指出,该功能“为剥削、性虐待、骚扰和身份欺诈创造了明显且可预见的机会”。 **行业背景**:当前 TikTok、YouTube、Facebook 等平台均采取类似策略——标记但不过滤。这反映了平台在平衡 AI 创新与内容治理之间的困境:一方面,AI 内容带来流量和用户参与;另一方面,虚假信息、滥用和版权问题日益突出。莫塞里的表态或许预示着未来平台将提供更细粒度的用户控制权,而非一刀切禁止。

The Verge3个月前原文