SheepNav
精选今天0 投票

随机原始-对偶解码:为多目标生成式推荐系统而生

生成式推荐系统(RS)近年来凭借其强大的序列建模能力,在提升推荐相关性上取得了显著成效。然而,实际推荐场景往往需要构建满足多重目标的物品列表(Slate)——例如,既要保证相关性,又要满足物品属性约束或公平性指标。现有方案要么依赖后处理技术(但未考虑生成式RS的序列特性),要么将辅助目标直接融入模型训练(在大规模系统中难以落地)。

针对这一痛点,研究者提出了一种轻量级的推理时解码层,无需修改或重新训练底层生成模型,即可支持多目标Slate生成。其核心思路是将解码过程转化为一个在线约束优化问题:每次选择物品时,根据剩余约束“松弛量”(即各目标还需满足的程度),动态调整相关性与辅助目标之间的权衡。

具体实现采用随机原始-对偶近似方法,在生成过程中平衡主目标(相关性)与辅助目标。理论方面,作者给出了约束违反度和遗憾值的保证;实验方面,在离线大规模评测和线上A/B测试中均验证了有效性。关键成果包括:在用户满意度零损失的前提下,辅助目标实现了**+1.8%的提升**。

这一工作为生成式推荐系统的多目标优化提供了新的思路——将约束满足从训练阶段转移到推理阶段,既保持了模型的可迁移性,又降低了部署成本。对于需要同时优化点击率、多样性、公平性等指标的实际系统,该方法具有较高的实用价值。

核心价值

  • 无需重新训练,即插即用
  • 动态权衡,适应性强
  • 理论保证与实证效果兼备

延伸阅读

  1. NEXUS:为工具调用型LLM智能体构建结构化运行时安全监控
  2. 大语言模型的信息辨别能力:研究发现模型在来源可信度和事实判断上均存在显著缺陷
  3. FormulaSPIN:用自对弈微调突破自然语言生成电子表格公式的瓶颈
查看原文