记忆进入循环:面向语言代理的进程内检索扩展工作记忆研究
语言代理的运行遵循“观察-推理-行动”循环,但长期以来,其依赖的记忆存储始终位于循环之外——每个轮次最多查询一次。一项来自arXiv的新研究挑战了这一设计惯例,提出将记忆移入循环内部,在每一步都进行读写操作。
传统观点认为,网络化存储的延迟(数十至数百毫秒)是主要障碍,可能导致端到端延迟增加83倍。然而,研究人员指出,延迟问题并非源于“循环内检索”这一模式本身,而在于存储的位置。他们提出使用进程内存储,其响应时间约为100微秒,比网络存储快三个数量级。在此速度下,每步检索的开销几乎可以忽略不计。
研究基于“扩展心灵理论”的对等原则:当一个存储设备足够快速且可直接访问时,它便不再是代理偶尔查阅的工具,而是成为了扩展工作记忆的一部分。因果实验表明,在固定每步记忆延迟预算的情况下,冗余行动数量随延迟增加而单调上升:在进程内速度下,12个任务中冗余行动为0.0;而在110毫秒云往返延迟下(使用GPT-5-nano和GPT-5-mini),冗余行动达到7.2(精确置换检验p=0.0079)。
端到端测试在四种GPT-5类模型上展开,结果显示:在有限窗口下,使用循环内记忆后,召回率从0/5提升至3.6–4.8/5,存储操作的中位延迟为80–165微秒。值得注意的是,一个要求“每次回复都复述事实”的基线方法也能完美解决问题,但代价是令牌消耗随工作集增长而激增。
研究进一步发现,存储本身从未丢失任何事实(244次写入全部保留),所有缺失均源于代理的读取策略而非存储故障。此外,测量揭示了真正的瓶颈:嵌入生成占据了主要成本(网络环境下约200–400毫秒)。通过将进程内存储与小型本地嵌入器配对,完整操作延迟可降至约40微秒。
这项研究不仅挑战了语言代理记忆系统的设计范式,也为构建更高效、更可靠的自主代理提供了明确的技术路径。