今日下载：欺骗LLM的漏洞与地热发电厂的复兴
欺骗LLM的根本缺陷：无法修复的漏洞
本月早些时候，一篇在顶级AI会议上发表的论文指出，大型语言模型（LLM）存在一个根本性缺陷，使其极易受到攻击，且无法完全修复。研究人员利用这一缺陷，成功让流行LLM输出本应被禁止的信息，例如合成可卡因的方法或破坏商用飞机导航系统的步骤。
问题核心在于LLM如何识别指令来源。模型无法区分用户、系统提示或外部数据中的指令，攻击者可通过精心设计的输入（如提示注入）绕过安全限制。尽管各公司已采取过滤措施，但研究团队认为，由于架构限制，这一问题可能永远无法彻底解决。这对依赖LLM的行业（如客服、代码生成）敲响了警钟：安全防护必须多层化，不能仅依赖模型自身。
地热发电厂的第二春：先进技术复活老旧设施
在气候科技领域，一家名为Zanskar的小公司成功复活了新墨西哥州一座濒临废弃的地热发电厂。2024年6月，该厂因地下水库水温持续下降而面临关闭，但Zanskar通过先进建模与现代钻井技术，在正确位置钻探新井，仅用两年便让工厂恢复满负荷运行。
关键成功因素包括：利用高分辨率地质模型精准定位热源，以及采用定向钻井技术触及深层地热储层。这一案例证明，在追求24/7无碳电力的过程中，现有地热田的潜力远未被挖尽。全球地热资源丰富，但传统勘探风险高、成本大，Zanskar的方法或将为行业提供可复用的低成本复兴路径。
芯片工人的婚恋优势：AI红利下的韩国新现象
另一则趣闻来自韩国：半导体巨头SK海力士的员工因AI芯片热潮获得巨额奖金，成为婚恋市场的香饽饽。一位35岁的经理Baek在母亲安排下加入婚介所，如今他和同事因公司慷慨分红——相当于每人额外获得47.6万美元——而更受异性青睐。
这一现象折射出AI产业对劳动力市场的深层影响：高技能芯片人才稀缺性加剧，企业用超高奖金争夺人才，进而改变社会婚恋观念。韩国父母传统上偏爱医生、律师等职业，如今芯片工程师正成为新的理想女婿/儿媳人选。
小结
从LLM的安全隐患到地热发电的复兴，再到AI红利重塑婚恋市场，今日科技新闻展现了技术落地的多维面貌：漏洞提醒我们保持谨慎，地热案例带来希望，而社会现象则揭示AI经济的涟漪效应。
