SheepNav
新上线今天0 投票

STAGformer:面向微出行需求预测的时空智能体图Transformer

高效建模新突破:STAGformer 如何用线性复杂度解决共享单车需求预测难题?

共享单车系统的运营效率高度依赖于精准的站点级需求预测。然而,城市网络规模庞大,时空依赖关系复杂,传统模型往往难以兼顾精度与计算效率。近日,一篇发表于 arXiv 的论文提出了 STAGformer(Spatio-Temporal Agent Graph Transformer),通过创新的智能体注意力机制,将标准自注意力的二次复杂度降至 O(NT) 线性级别,为大规模时空预测开辟了新路径。

核心创新:两步式智能体注意力

STAGformer 的核心在于其两步式智能体注意力机制。模型引入少量可学习的空间智能体令牌时间智能体令牌,首先由这些智能体从所有站点和时间步中聚合全局信息,再将其广播回各个站点和时间步。这一设计有效捕捉了长距离交互,同时避免了标准 Transformer 中随节点数平方增长的计算开销。

四大模块协同工作

STAGformer 由四个核心模块构成:

  • 时空编码器:融合动态节点特征与外部上下文因素(如天气、时间、兴趣点);
  • 图传播模块:用于空间邻居聚合,捕捉局部空间相关性;
  • 时间卷积模块:提取局部时间模式;
  • 智能体注意力模块:负责全局依赖建模,是模型性能的关键。

实验表现:全面超越基线

研究团队在 纽约 Citi-Bike芝加哥 Divvy-Bike 两个真实数据集上进行了广泛实验。结果显示,STAGformer 在多个预测时长(如 15 分钟、30 分钟、1 小时等)上,均以显著优势超越了当前最先进的基线模型,在 RMSEMAE 两项指标上均取得最优。消融研究进一步验证了每个组件的贡献,其中智能体注意力机制被证实是捕捉全局时空依赖的关键。

行业意义与展望

随着城市微出行(如共享单车、电动滑板车)的普及,精准的需求预测对车辆调度、站点管理及用户体验优化至关重要。STAGformer 提供了一种兼顾效率与精度的解决方案,其线性复杂度使其具备部署于大规模城市网络的潜力。未来,该框架有望推广至其他时空预测任务,如交通流量预测、人群密度估计等,推动智能交通系统向更高效、更智能的方向发展。

延伸阅读

  1. Inertia-1:可穿戴运动基础模型的开源探索
  2. 生成位置决定成败:FedEAS 提出预算感知合成增强,高效解决联邦学习标签倾斜
  3. 深度强化学习破解投资组合优化难题:多目标可靠性框架MORP-DRL
查看原文