每日论文精读 #080：把地理可达性写进Token——淘宝闪购生成式广告检索TS-GEAR

📌 系列导航：🔥 日报 · 📚 周报 · 📡 技术雷达 · 📄 论文精读 · 📮 情报站

论文信息

一句话总结

把商家的"地理可达性"从事后过滤变成模型可以直接生成的结构化前缀 token，配合查询-地理双目标注意力与集合级强化学习对齐，用一个 0.1B 的轻量模型在淘宝闪购搜索广告中扛住了日均 1.5 亿次检索。

解决什么问题

即时配送平台（外卖、闪购）的搜索广告检索有一个传统电商没有的硬约束：超出用户配送范围的商家不是"排序靠后"，而是"根本无效"。现有生成式检索（TIGER、OneRec 等）的语义 ID 只编码内容和协同信号，地理只能作为软信号，靠生成后的不可微过滤兜底——既浪费 beam 预算，也无法端到端优化。此外还有两个伴生问题：同一查询在不同地点意图不同（工作日搜"牛肉"要热食、周末在家要生鲜），历史行为聚合如果不按地理条件化就会产生兴趣偏差；检索本质是"下一个集合"预测，但自回归训练逐序列打分，没有集合级信号去抑制近似重复的候选。

核心方法

三个设计，一一对应三个挑战：

1. Geo-Semantic ID（GSID）：把商家标识拆成 6 个 token：前 3 个地理 token（层级 geohash 网格）+ 后 3 个语义 token（RQ-VAE 量化）。解码时对地理前缀做约束解码，保证只生成落在用户实时配送范围网格内的前缀——可达性从"事后过滤器"变成"生成目标"。配送范围是随骑手运力、天气动态变化的，模型在生成时动态定位覆盖用户可达范围的网格，而非预计算静态属性。解码器内部还有一个 User-Geo Gate，注入用户实时位置来条件化网格生成顺序。

2. Query-Geo Target Attention：编码器聚合用户历史行为时，以实时查询和实时位置作为双目标做注意力，同时把每条历史行为自身发生的位置编进 attention key，实现跨区域的兴趣建模与迁移。

3. GMPO（Group Marginal Policy Optimization）：在 GRPO 基础上改写优势函数——组内奖励先做去重（近似重复商家不重复计分），再用留一法（leave-one-out）边际优势替代标准组内归一化优势，直接优化整个候选集的累积商业价值与多样性，不需要任何辅助多样性损失。形式化上，检索被定义为带硬约束的集合生成问题：最大化 Value(Y)，s.t. 每个候选的地理前缀落在用户配送范围 N_u 内。

实验结果

• 工业数据集 TS-Delivery：三种配送半径下全面超越 SOTA。HR@50 相对最强基线 OneLoc：5km +1.2%（0.7778→0.7869），10km +14.1%（0.7092→0.8090），20km +36.3%。
• 地理有效性：top-50 候选可达率 95.8%（OneLoc 仅 35.4%），beam 加深到 300 仍保持 93.0%（基线跌到 29.3%）。这解释了为什么半径越大提升越大——可达集越大，beam 不被无效候选浪费的价值越高。
• 消融：去掉地理前缀，大半径下的增益几乎全部消失，退回纯语义基线水平。
• RL 对齐：标准 GRPO 反而比预训练基线还差（ctr -2.9%），原因是约 70% 查询只有单一有效候选，稀疏组信号退化；GMPO 把 clk/ctr/ord 分别提升 1.8%/0.7%/4.9%。
• 在线 A/B（7 天，20% 流量）：广告曝光 +3.8%，广告收入 +4.2%。0.1B backbone，日均服务 1.5 亿次查询。

深层洞察

这篇论文最值得记住的思想是：约束应该结构化地进入表示，而不是事后修补。软信号（特征融合、解码偏置）只能"鼓励"接近，无法"保证"满足；把硬约束编码为标识符的前缀，约束满足就成了生成过程本身的副产品。第二个洞察是**“下一个集合"与"下一个序列"的目标错配**——beam 里塞满同一家连锁店的分店，每条序列单独看都对，集合整体却是灾难；GMPO 用去重组内奖励+边际优势把集合级价值直接写进 RL 目标，比加多样性正则更干净。第三，GRPO 在组内信号稀疏（大量查询只有单一正例）时可能负优化，这个坑对所有做 GRPO 对齐的团队都有参考价值。

局限性

• 完全工业导向，未开源，工业数据集也不公开，复现与横向对比困难。
• 公开数据集（NYC/TKY）上提升只有 3-6%，远小于工业场景——核心增益依赖配送半径这种强地理约束结构，泛化到普通搜索/推荐场景的价值存疑。
• 地理网格粒度、配送范围动态估计的误差如何影响可达性保证，文中讨论有限。
• 在线收益（+4.2% 收入）依赖阿里级别的流量与工程基建，小团队难以直接借鉴。

工程实践启示

1. 硬约束优先考虑结构化方案：业务里凡是"必须满足"的约束（地域、库存、合规），值得考虑编码进 ID/生成过程，而不是靠后置过滤或软惩罚。
2. 地理前缀 + 语义后缀的 ID 设计可迁移到任何 LBS 检索场景（本地生活、打车、房源）。
3. 用户行为建模要带上行为发生时的上下文（位置、查询），否则高频场景会主导兴趣表征——target attention + 行为自带上下文编码是低成本改法。
4. 用 GRPO 做检索对齐前先检查组内信号密度；稀疏时边际优势/去重奖励这类改写能避免负优化。
5. 0.1B 小模型 + 好的表示设计足以扛住亿级日请求，生成式检索落地不一定需要大模型，scaling 实验显示 0.05B→0.5B 的 HitRate 增益是平缓的。