每日论文精读 #071：用保形预测决定机器人何时『慢思考』

📌 系列导航：🔥 日报 · 📚 周报 · 📡 技术雷达 · 📄 论文精读 · 📮 情报站

论文信息

一句话总结

CovNav 用保形预测（Conformal Prediction）作为统计严谨的"开关"，在机器人目标导航中只在局部小模型不确定时才升级到慢速思维链推理，以约 1/3 的延迟拿到接近全程慢思考的性能。

解决什么问题

LLM 驱动的具身导航面临一个部署困境：云端大模型（GPT/Claude）延迟高、有隐私风险；本地小模型（如 Qwen3-8B）快但容易在空间关系上产生幻觉。混合推理模型（如 Qwen3）同时提供"快思考"（直接输出）和"慢思考"（思维链）两种模式，但核心问题是：什么时候慢思考才值得它的代价？ 现有方法要么总是调大模型（贵），要么只用小模型（不准），缺乏按问题难度自适应调整推理深度的机制。

核心方法

1. 把空间查询结构化为二元决策。 机器人用 BLIP + 现成检测器构建开放集语义地图。每观测到一个新物体，就问局部 LLM 一个二元问题：“目标物体是否大概率在这个物体附近？"（Yes/No）。相比开放式 VQA，二元决策的形式让校准变得可行。

2. 保形预测（CP）作为不确定性闸门。 定义非一致性分数 s(x,y) = 1 − P̂(y|x)（softmax 概率的补），在校准集上取 ⌈(N+1)(1−α)⌉/N 分位数得到阈值 q̂，构造预测集 C(x)，保证 P(y_test ∈ C(x)) ≥ 1−α。关键在预测集的基数：

• |C(x)| = 1（单点集）→ 模型自信，直接用快模式输出
• |C(x)| ≠ 1（空集或两点集）→ 歧义，触发慢速思维链推理（enable_thinking）

校准集的构造也很有意思：用 GPT-5 从 Matterport3D 采样视点提取物体列表，按"同房间物体对=Yes、跨房间物体对=No"自动合成 1200 条标注，无需人工大规模标注。

3. 分层加速。 常见 COCO 类物体对的共现概率由 GPT-5 离线预计算成 N×N 关系矩阵（导航时 O(1) 查表），只有开放集物体才走 Qwen3-8B 在线推理。CP 默认 α=0.5。

实验结果

• 主结果：在 HM3D v1/v2 上成功率（SR）分别超过最强零样本基线 ApexNav 0.8 和 1.7 个百分点；Gibson 上保持竞争力
• 快慢切换收益（HM3D v1）：Fast-Only 51.5% SR / Slow-Only 64.2%（但延迟 3.40s）；CovNav 62.8% SR / 0.72s 延迟——只差 1.4% 摸到上界，速度却快 3.5 倍
• 慢模式仅触发 12.4% 的查询：绝大多数决策是"常规题”，少数关键歧义决策才决定成败
• 消融：去掉 CP 校准值 → HM3D v1 从 62.8% 跌到 41.2%；去掉置信度衰减 → 51.3%；退回闭集检测 → 54.6%
• α 敏感性：α=0.8 过保守（切换率 22.4%，HM3D v1 反而降到 61.5%）；α=0.2 过自信（切换率仅 8.2%，接近 Fast-Only）
• 对比朴素阈值法：固定概率阈值 0.8 需 42.7% 切换率，HM3D v1 只到 54.2%——因为原始 logits 会"错得自信"，CP 用校准集做了统计整流
• 真机验证：TurtleBot 4 上部署量化 Qwen3-8B-FP8，全程无云端依赖，总内存 22.6GB，单卡 RTX 3090/4090 即可跑

深层洞察

这篇论文的价值超出了导航本身。当前 LLM 推理研究的热点是"何时思考"——用 RL 训练模型自己学会切换（Qwen3 等），成本高且不可解释。CovNav 给出了一个免训练、有统计保证的替代方案：不确定性不是靠模型自评（会幻觉），而是靠分布无关的 CP 校准。更妙的是"结构化二元决策 + 预测集基数"这个组合，把模糊的"置信度"变成了可证明覆盖率的硬指标。作者称之为"战略性慢"（strategic slowness）：算力应该花在高杠杆的歧义时刻，而不是浪费在"电视旁边有没有沙发"这种常识题上。这对所有 LLM 应用中"分级推理/模型路由"的问题都有启发——与其按任务静态分配大小模型，不如按校准后的不确定性动态路由。

局限性

• 校准集只有 4 类房间、1200 条合成样本，靠"同房=Yes/跨房=No"的简化规则生成，对真实世界中跨房间共存（如开放式厨房+客厅）和物体粒度差异覆盖不足
• 二元决策的表达力有限，复杂空间关系（“在楼上"“在走廊尽头”）难以编码为 Yes/No
• α=0.5 的"甜点"是经验调出来的，跨环境未必最优（HM3D v1 上就出现了保守反而更差）
• 失败模式分析显示仍有 19%–21% 的失败来自推理本身：快模式"自信地错”（校准失效）和慢模式幻觉
• 依赖 Qwen3 的双模式设计，换其他模型架构需重新校准

工程实践启示

• CP 是最便宜的不确定性方案：无需重训练、无需多次前向（对比 MC-Dropout/Deep Ensemble），一个小校准集 + softmax 概率就能上线，任何用 LLM 做分类决策的系统都可以直接套用
• 预测集基数是天然的路由信号：可以推广到大小模型路由、Agent 工具调用分级、RAG 检索置信度门控等场景
• 预计算 + 在线推理分层：高频查询离线固化成矩阵查表，长尾才在线推理，是延迟优化的经典套路
• “错误的自信"比"低置信"更危险：原始 logits 不可靠，先校准再决策；这篇论文证明了校准后的 12.4% 切换率胜过未校准的 42.7%