精选今天0 投票
AI自我改进的爆发可能没那么快来临
AI行业最引人注目的承诺之一，是AI很快将能自我改进，几乎无需人类监督。大型语言模型已经能编写代码、生成训练用的合成数据，甚至优化自身运行的芯片。一些预测认为，所谓的“递归自我改进”即将到来，但最新研究提示，这条路可能比想象中更长。
普林斯顿大学等机构的研究者发现，AI代理能解决AI研究中的工程问题，却缺乏开放式研究所需的判断力与创造力，难以产出达到顶级会议水平的原创成果。这提醒我们，对AI自动化研究的加速时间表或许过于乐观。
何为递归自我改进？
递归自我改进，指AI系统在没有人类干预的情况下，自己改进自身能力的过程。当前大模型已能辅助编程，但完全自主的开放式研究——包括提出假设、设计实验、判断何时推翻重来——仍属人类专属。
研究如何测试AI的科研能力？
研究者提出了“影子评估”法：让AI回答来自未发表顶级论文的研究问题，避免其从训练数据中“背答案”。他们用Claude Opus 4.5（原文如此，可能指Claude Opus 4.5或4.8，但原文是4.8）在OpenClaw上测试两个问题，分别涉及模型权重控制与数据漂移检测。AI虽能解决工程部分，却未达论文水准，显示出“品味”与“判断力”的缺失。
差距何在？
现有评估多聚焦于有标准答案的窄任务，但真实科研需要开放思维。AI能处理明确问题，却难在未知领域做出关键抉择。研究认为，若缺乏这种开放性，自我改进的飞轮难以启动。
未来展望
尽管结果谨慎，但研究者并未否定可能性。他们强调，需要更精准的评估方法来衡量AI的科研潜力。短期内，AI或许能成为科研助手，但完全自主的AI科学家仍属未来。
总之，AI的自我改进不会一蹴而就，但方向已明，值得持续关注。